شرکت OpenAI که در زمینه تحقیق و توسعه در حوزه هوش مصنوعی مشغول است و از جانب مایکروسافت حمایت مالی می شود، طی یک پست رسمی در بلاگ خود از عواقب رشد هوش عمومی مصنوعی یا Artificial General Intelligence ابراز نگرانی کرده است. این نوع هوش مصنوعی می تواند هر نوع وظیفه فکری و عقلانی را که انسان قادر به انجام دادن است، درک کند و آن را به مرحله اجرا درآورد.
شرکت OpenAI که در ابتدا توسط گروهی از کارآفرینان و محققان برجسته دنیای فناوری، از جمله ایلان ماسک و سم آلتمن، تأسیس شد اظهار داشته است که AGI می تواند پیامدهای عمیقی را (چه مثبت و چه منفی) برای بشریت به همراه داشته باشد. در مطلب منتشر شده در بلاگ رسمی این شرکت ذکر شده است که AGI می تواند نقش مهمی در زمینه حل چالش های جهانی مانند تغییرات آب و هوایی و فقر ایفا کند. در طرف مقابل، این فناوری می تواند به دلیل ناسازگاری با ارزش ها و اهداف انسانی و مورد سوء استفاده قرار گرفتن توسط افراد خراب کار به تهدیدی بالقوه برای بشریت تبدیل شود.
بنابر استدلال های OpenAI، دستیابی به هوش عمومی مصنوعی مستلزم برنامه ریزی دقیق و هماهنگی کامل بین محققان، سیاست گذاران، رهبران صنعت، گروه های جامعه مدنی و عموم مردم است. این شرکت همچنین خواستار تحقیقات بیشتر در مورد چگونگی اطمینان از همسویی AGI با ارزش های انسانی و نحوه کنترل کردن آن توسط بشر شده است. در همین راستا OpenAI به شدت از شفافیت بیشتر در زمینه توسعه فناوری های مربوط به حوزه هوش مصنوعی دفاع کرده است و خواستار مسئولیت پذیری بیشتر تمامی نهادها و ارگان ها در این زمینه شده است.
این سازمان امیدوار است که یک دیالوگ جهانی پیرامون 3 سؤال کلیدی زیر شکل گیرد:
- نحوه کنترل کردن AGI و دستورپذیری آن از انسان به چه صورت خواهد بود؟
- مزایایی که این هوش مصنوعی ایجاد می کند، چطور به شکل عادلانه بین تمام انسان ها توزیع می شود؟
- چگونه تمام انسان ها می توانند به صورت عادلانه به این هوش مصنوعی دسترسی یابند؟
این مطلب به عنوان بخشی از مأموریت OpenAI برای اطمینان از اینکه هوش مصنوعی به نفع تمام انسان ها خواهد بود، منتشر شده است. بد نیست بدانید که این شرکت در کنار بخش صنعتی که برای کسب درآمد ایجاد شده است (OpenAI LP)، یک بخش دیگر نیز دارد که در زمینه بررسی جنبه های انسانی فعالیت های این شرکت فعالیت دارد (OpenAI Inc.). این دو بخش در واقع دو بازوی اصلی OpenAI را تشکیل می دهند و کاملاً هماهنگ با هم عمل می کنند.
این شرکت در چند وقت اخیر با ارائه سیستم پردازش زبان GPT-4 و ربات های DALL-E و ChatGPT حسابی بر سر زبان ها افتاده است و دستاوردهای آن طوفانی را در زندگی بشریت به راه انداخته است. با توجه به تجربه های موفق و پیشرفته OpenAI در حوزه هوش مصنوعی، به نظر می رسد که باید هشدارهای آن به طور کامل جدی گرفته شوند؛ در غیر این صورت ممکن است همین چت بات هایی که الان دوست ما به نظر می رسند، به دشمنانی خطرناک برای بشریت تبدیل شوند!
منبع: gizmochina
