اوپن‌ای‌آی این هفته با دو مسئله بزرگ امنیتی

اوپن‌ای‌آی به نظر می‌رسد هر روز در صدر اخبار باشد و این بار به دلیل دو نگرانی امنیتی مورد توجه قرار گرفته است. اولین مسئله مربوط به اپلیکیشن مک ChatGPT است و دومین مسئله به ادامه مطلب

بازدید 168 3 ماه پیش

اوپن‌ای‌آی به نظر می‌رسد هر روز در صدر اخبار باشد و این بار به دلیل دو نگرانی امنیتی مورد توجه قرار گرفته است. اولین مسئله مربوط به اپلیکیشن مک ChatGPT است و دومین مسئله به نگرانی‌های گسترده‌تر در مورد نحوه مدیریت امنیت سایبری این شرکت اشاره دارد.

اوایل این هفته، مهندس و توسعه‌دهنده Swift، پدرو خوزه پریرا وییتو، به بررسی اپلیکیشن مک ChatGPT پرداخت و متوجه شد که این اپلیکیشن مکالمات کاربران را به صورت متن ساده به صورت محلی ذخیره می‌کند و از رمزگذاری استفاده نمی‌کند. این اپلیکیشن تنها از وبسایت اوپن‌ای‌آی قابل دانلود است و چون در فروشگاه اپ استور اپل موجود نیست، نیازی به پیروی از الزامات سندباکسینگ اپل ندارد. کار وییتو توسط سایت The Verge پوشش داده شد و پس از جلب توجه به این نقص، اوپن‌ای‌آی به‌روزرسانی‌ای منتشر کرد که رمزگذاری مکالمات ذخیره‌شده به صورت محلی را اضافه کرد.

برای افراد غیرتوسعه‌دهنده، سندباکسینگ یک روش امنیتی است که از گسترش نقاط ضعف و خرابی‌های احتمالی از یک اپلیکیشن به اپلیکیشن‌های دیگر در یک ماشین جلوگیری می‌کند. و برای افراد غیرامنیتی، ذخیره فایل‌های محلی به صورت متن ساده به این معنی است که داده‌های بالقوه حساس به راحتی توسط سایر اپلیکیشن‌ها یا بدافزارها قابل مشاهده هستند.

مسئله دوم در سال ۲۰۲۳ رخ داد و عواقب آن تا امروز ادامه دارد. در بهار گذشته، یک هکر توانست اطلاعاتی درباره اوپن‌ای‌آی به دست آورد پس از دسترسی غیرمجاز به سیستم‌های پیام‌رسان داخلی شرکت. روزنامه نیویورک تایمز گزارش داد که لئوپولد اشنبنر، مدیر برنامه فنی اوپن‌ای‌آی، نگرانی‌های امنیتی را با هیئت مدیره شرکت مطرح کرده و استدلال کرده که این هک نشان‌دهنده ضعف‌های داخلی است که دشمنان خارجی می‌توانند از آن بهره‌برداری کنند.

اشنبنر اکنون می‌گوید که به دلیل افشای اطلاعات درباره اوپن‌ای‌آی و مطرح کردن نگرانی‌های امنیتی شرکت اخراج شده است. نماینده‌ای از اوپن‌ای‌آی به تایمز گفت که “در حالی که ما با تعهد او به ساخت AGI ایمن همدل هستیم، با بسیاری از ادعاهایی که او از آن زمان درباره کار ما مطرح کرده، مخالفیم” و افزود که خروج او نتیجه افشاگری نبوده است.

نقص‌های اپلیکیشن‌ها چیزی است که هر شرکت فناوری با آن مواجه شده است. نقض‌های امنیتی توسط هکرها نیز متاسفانه رایج هستند، همان‌طور که روابط متشنج بین افشاگران و کارفرمایان سابقشان نیز وجود دارد. با این حال، با توجه به اینکه ChatGPT به طور گسترده‌ای توسط بازیگران بزرگ به کار گرفته شده و نظارت، روش‌ها و شهرت عمومی اوپن‌ای‌آی چقدر آشفته بوده، این مسائل اخیر شروع به ترسیم تصویری نگران‌کننده‌تر درباره توانایی اوپن‌ای‌آی در مدیریت داده‌های خود می‌کنند.

اشتراک گذاری

دنبال کنید نوشته شده توسط:

محسن جدیدی

نظرات کاربران

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *