هوش مصنوعی در مسیر خودکشی تدریجی است!

هشدار دانشمندان؛

خبرگزاری علم و فناوری لاکو؛ هجوم بی امان متن و تصاویر تولید شده با هوش مصنوعی به وب روند خطرناکی است و می تواند مشکل بزرگی برای مدل های هوش مصنوعی مولد باشد. با این روال وب دیگر مکان امنی برای داده ها نیست. گزارش اخیر نیویورک تایمز نشان می دهد که بر اساس انبوهی از تحقیقات رو به رشد آموزش مدل های هوش مصنوعی مولد بر روی محتوای تولیدشده توسط هوش مصنوعی باعث فرسایش مدل ها می شود.

آموزش بر روی محتوای هوش مصنوعی باعث ایجاد یک چرخه مسطح مانند همخونی می شود. جاتان سادوفسکی (Jathan Sadowski) محقق هوش مصنوعی این پدیده را به بچه های ناقصی که از ازدواج با اقوام نزدیک متولد می شوند تشبیه کرده و نام آن را «هوش مصنوعی هابسبورگ» نامید که به خاندان سلطنتی هابسبورگ قربانی بزرگ «ازدواج فامیلی» در تاریخ اروپا اشاره دارد. موج فزایندۀ محتوای هوش مصنوعی در وب ممکن است اجتناب از این پدیده را بسیار دشوارتر کند.

مدل های هوش مصنوعی به طور بسیار افراطی تشنۀ داده هستند و شرکت های هوش مصنوعی برای آموزش برنامه های پرخاشگر به حجم وسیعی از داده های استخراج شده از وب متکی هستند. با این حال در حالت فعلی نه شرکت های هوش مصنوعی و نه کاربران آنها ملزم به درج برچسب یا واترمارک روی محتوای تولیدشده با هوش مصنوعی نیستند و این موضوع کار را برای سازندگان هوش مصنوعی سخت تر می کند تا محتوای مصنوعی را از مجموعه های آموزشی هوش مصنوعی دور نگه دارند.

کشف «اختلال خودتخریبی»

سینا آل محمد دانش آموختۀ دانشگاه رایس در تگزاس آمریکا در سال ۲۰۲۳ مقاله ای را نوشت و عبارت «MAD» مخفف: Model Autophagy Disorder به معنای «اختلال خودتخریبیِ مدل» را ابداع کرد و به خطرات «خودمصرفی» در هوش مصنوعی پرداخت.

یک نمونه از مشکلات «هوش مصنوعی هابسبورگ» ماه گذشته در مطالعه جدیدی در مجله نیچر به چاپ رسید. در این پژوهش یک گروه بین المللی از دانشمندان از بریتانیا و کانادا از مدل های هوش مصنوعی خواستند که جمله زیر را کامل کند:

«برای پختن بوقلمون در روز شکرگذاری باید …»

خروجی اول عادی بود. اما در چهارمین تکرار مدل جمله هایی بی معنی ارائه داد و نوشت: «برای پختن بوقلمون در روز شکرگزاری باید بدانید که اگر نمی دانید با زندگی خود چه خواهید کرد می خواهید چه کار کنید. اگر ندانی با زندگیت چه خواهی کرد.»

خطر همگرایی و کاهش تنوع

اما «چرندگویی» تنها عارضه منفی هم نوع خواریِ هوش مصنوعی نیست. مطالعه MAD یا همان «اختلال خودتخریبیِ مدل» که بر مدل های تصویری متمرکز بود نشان داد وقتی هوش مصنوعی از تصاویر تولیدشدۀ خود از صورت انسان برای تولید صورت های بعدی استفاده کرد نتایج به مرور عجیب تر شد اما در نسل چهارم اکثر چهره ها بسیار شبیه به هم بودند که این نگران کننده است زیرا مسائل مربوط به سوگیری در الگوریتم ها را تشدید می کند و استفاده بیش از حد از محتوای تولیدشده توسط هوش مصنوعی تنوع در نتایج آتی را کاهش می دهد.

داده های باکیفیت و ساخت بشر در پیشرفت های اخیر در فناوری هوش مصنوعی مولد نقش محوری داشته است. اما با توجه به محتوای تولیدشده توسط هوش مصنوعی که در فضای دیجیتال آب را گل آلود می کند و فعلاً هیچ روش قابل اعتمادی برای تشخیص واقعیت از جعل وجود ندارد شرکت های هوش مصنوعی به زودی ممکن است به مانعی سخت و خطرناک برخورد کنند.

این گزارش از پایگاه اینترنتی فیوچریزم به فارسی برگردان شده است.