اخبار عجیبی در زمینه تولید تصویر بر مبنای فناوری هوش مصنوعی به گوش می رسد! به تازگی عنوان شده که DALL-E (که یک ابزار هوش مصنوعی OpenAI بر مبنای ماشین لرنینگ است) به توانایی های جدیدی دست پیدا کرده است! این ابزار اکنون به طرز عجیبی می تواند از روی متن، تصویر خلق کند؛ آن هم تصاویری طبیعی و کاملاً دقیق! این ابزار با توجه به تغییراتی که به تازگی دریافت کرده، می تواند بر اساس توصیف هایی که به عنوان ورودی دریافت می کند، تصاویری واقعی از چهره افرادی که وجود خارجی ندارند خلق کند.
به تازگی طی یک ایمیل، این مجوز در اختیار محققان و کسانی که در حال کار با DALL-E هستند قرار داده شده تا بتوانند تصاویر واقع گرایانه ای را که توسط این سیستم از چهره انسان خلق شده، به صورت عمومی به اشتراک بگذارند. البته توسعه دهندگان این سیستم متعهد شده اند تا محافظ هایی را برای این تصاویر در نظر بگیرند تا از تولید تصاویر دیپ فیک جلوگیری به عمل آید.
در این ایمیل به این نکته اشاره شده که «دو ویژگی امنیتی جدید به این سیستم اضافه شده تا ریسک سوء استفاده از DALL-E در خلق محتوای فریبنده به حداقل میزان ممکن برسد». به این ترتیب این سیستم اکنون به صورت اتوماتیک تلاش برای خلق تصاویر فیک از چهره های مشهور اجتماعی و سلبریتی ها را ریجکت می کند. تا پیش از این، فقط ایجاد تصویر از چهره های سیاسی در این ابزار هوش مصنوعی امکان پذیر نبود و اکنون این محدودیت های امنیتی گسترش پیدا کرده است.
بلافاصله پس از دریافت این مجوز، محققان به اشتراک گذاری نمونه های اولیه از عملکرد DALL-E را آغاز کرده اند، و نتایج.... بسیار عجیب است!
مطابق با اظهار نظر یکی از کسانی که با این ابزار کار کرده، DALL-E در خلق تصویر بر مبنای توصیف هایی که دریافت می کند، فوق العاده دقیق است و چهره هایی کاملاً طبیعی و باورپذیر را به عنوان خروجی ارائه می دهد. این ابزار می تواند آنچه را که در ذهن شما از چهره یک انسان خیالی نقش بسته، به صورت واقعی به مقابل چشمانتان بیاورد! به این ترتیب می توانید به چهره انسان هایی که هرگز وجود نداشته اند نگاه کنید، بدون اینکه متوجه فیک بودن عکس بشوید!
DALL-Eهنوز در مرحله تست قرار دارد و شرکت OpenAI محدودیت هایی را برای به اشتراک گذاری عکس های خلق شده با این ابزار اعمال کرده است. به همین دلیل محققان هنوز اجازه صحبت کردن در رابطه با توانایی های این ابزار هوش مصنوعی را ندارند و اطلاعات کمی از آن به صورت عمومی منتشر شده است. با این وجود پروژه های داوطلبانه کوچکتری مانند DALL-E Mini ایجاد شده تا کاربران بتوانند عکس های خلق شده توسط هوش مصنوعی براساس توصیف های متنی را به صورت عمومی به اشتراک بگذارند. البته کیفیت این عکس ها بسیار پایین تر از عکس های خلق شده توسط DALL-E است.
البته خلق عکس های واقعی از چهره انسان سؤالات اخلاقی زیادی را در ذهن ایجاد می کند؛ حتی اگر بدانیم که این عکس ها به انسان هایی تعلق دارد که هرگز وجود نداشته اند! محققان فعال در حوزه اخلاقیات هوش مصنوعی هشدار داده اند که سیستم های ماشین لرنینگ مانند DALL-E می توانند به مردمان محروم آسیب بزنند و علیه آنها جهت گیری های نادرست داشته باشند. نکته نگران کننده این است که کنترل و مهندسی این موضوعات در ابزارهای هوش مصنوعی کار آسانی نیست. محققان فعال در شرکت OpenAI، خود اعتراف کرده اند که DALL-E در صورت مشاهده برخی کلمات در متن ورودی، به خلق محتوای نژادپرستانه و جنسیت زده دست می زند! البته مدل های هوش مصنوعی سایر کمپانی ها مانند فیسبوک و گوگل هم در این زمینه عملکرد چندان بهتری را ارائه نمی دهند!
مهندسان هوش مصنوعی بر این نکته تأکید کرده اند که تمام تلاش خود را برای به حداقل رساندن امکان سوء استفاده از مدل های AI به کار می گیرند. با این وجود هنوز مشخص نیست که سیستم های هوش مصنوعی بزرگ مانند DALL-E چه قابلیت ها و توانایی هایی دارند و چه کارهایی از دستشان بر می آید! پس هنوز نمی توان در رابطه با میزان ایمن بودن آنها و نوع آسیب هایی که می توانند به زندگی بشر بزنند اظهار نظر کرد.
منبع: vice
