چندی پیش شرکت سامسونگ به منظور ارتقای بازدهی تولید تراشه های خود و ساده تر کردن فرآیندها، تصمیم گرفت تا چت بات هوش مصنوعی ChatGPT را به کارمندان خود معرفی کند و اجازه کار کردن با این ابزار به ظاهر مفید را به آنها بدهد. با این حال اوضاع آن طور که مورد نظر سامسونگ بود پیش نرفته است! چرا که در سه هفته اخیر، سه بار نشت اطلاعات برای این شرکت رخ داده است! در همین راستا نگرانی ها درباره امنیت ChatGPT به اوج خود رسیده است!
این نشت اطلاعات به این دلیل رخ داده است که کارمندان سامسونگ برخی اطلاعات حساس این شرکت را وارد ChatGPT کرده اند. این اطلاعات به ابعاد تجهیزات تراشه سازی سامسونگ و برخی سورس کدهای این شرکت در این زمینه مربوط می شود. هوش مصنوعی ChatGPT این اطلاعات محرمانه را به عنوان بخشی از پایگاه داده هوش مصنوعی خود تشخیص داده و از آنها برای یادگیری و تقویت خود استفاده کرده است. در نتیجه هر کسی که با ChatGPT کار کند به اطلاعات محرمانه سامسونگ دسترسی خواهد داشت و این یک فاجعه برای این غول کره ای دنیای تکنولوژی به شمار می آید!
اولین نشت اطلاعات زمانی اتفاق افتاد که یکی از کارمندان بخش Semiconductor and Device Solutions سامسونگ سورس کد مربوط به پایگاه داده اندازه گیری تجهیزات نیمه هادی این شرکت را در ChatGPT وارد کرد تا راه حلی سریع برای یک مشکل کاری خود پیدا کند. نشت دوم زمانی اتفاق افتاد که یکی دیگر از کارمندان سامسونگ، کد مربوط به بازده و بهینه سازی این تجهیزات را وارد این چت بات هوش مصنوعی کرد. نشت سوم نیز مربوط به زمانی می شود که یکی از کارمندان از ChatGPT خواست تا یک برنامه زمان بندی برای جلسات واحد کاری او تنظیم کند و برای شروع، جزئیات دقایق کاری پرسنل را وارد آن کرد. ChatGPT از تمامی این اطلاعات برای ارتقای سطح هوش مصنوعی خود استفاده کرده است و اگر اکنون سؤالی در رابطه با این مسائل از او پرسیده شود، آنها را در اختیار هر نوع کاربری قرار می دهد!
سامسونگ برای جلوگیری از افشای اطلاعات بیشتر، اقداماتی را انجام داده است. به عنوان مثال این شرکت به کارمندان خود دستور داده تا در مورد داده هایی که با ChatGPT به اشتراک می گذارند محتاط تر عمل کنند و نهایت دقت خود را به کار برند. همچنین سامسونگ ظرفیت ورودی به این چت بات را به حداکثر 1024 بایت محدود کرده است. این غول کره ای دنیای تکنولوژی این موضوع را به اطلاع کارمندان خود رسانده است که تمامی دیتاهایی که توسط آنها به ChatGPT وارد می شوند، در یک سرور خارجی زیر نظر سامسونگ نیز ذخیره می شوند و به هیچ عنوان امکان حذف یا ویرایش آنها برای کارمندان وجود نخواهد داشت. در نتیجه اگر فردی اقدام به وارد کردن اطلاعات حساس و محرمانه سامسونگ به ChatGPT کند، فوراً توسط این شرکت شناسایی شده و با جریمه مواجه خواهد شد.
اتفاقی که برای سامسونگ رخ داده است لزوم نظارت بر هوش مصنوعی و وضع قواعد امنیتی برای آن را بیش از پیش پر رنگ کرده است. همچنین شرکت ها و کارمندان آنها باید بدانند که کار کردن با هوش مصنوعی اقدام فوق العاده پر ریسکی است و ممکن است لطمات جبران ناپذیری را به کسب و کار آنها وارد نمایید. با وجود اینکه چت بات های هوش مصنوعی به مرور در حال ارتقا و بهینه سازی هستند، اما باید در زمینه امنیت اطلاعات وارد شده به آنها نیز اقداماتی انجام شود. به عبارت دیگر چت بات های هوش مصنوعی باید از میزان حساس بودن اطلاعات محرمانه آگاه شوند و در این زمینه تمرین داده شوند. در حال حاضر توصیه اکید شده است که از افزونه ها و ماژول های ترد پارتی که برای چت بات هایی مانند ChatGPT ارائه شده اند، استفاده نشود. باید ببینیم که آینده هوش مصنوعی به کجا خواهد کشید. آیا این فناوری بالاخره روی بد خود را به ما نشان می دهد یا بشر می تواند آن را همچنان در کنترل خود داشته باشد!
منبع: gizmochina
