یک گزارش علمی تکان دهنده از نویسنده ای شگفت زده تان می نماید! - لوکو

غزال زیاری - استیون هاوکینگ در این باره هشدار داده بود که توسعه هوش مصنوعی ممکن است روزی به منزله سرانجام نسل بشر باشد.

ایلان ماسک، یکی از بنیانگذاران شرکت OpenAI هم در این رابطه گفته: هوش مصنوعی مرا به طرز وحشتناکی می ترساند. توانایی آن به مراتب بیشتر از چیزی است که هر کسی می داند و روند پیشرفت آن به صورت تصاعدی بالاست.

چندی پیش بیش از 1000 لیدر دنیای فناوری، نامه ای را به امضا رساندند که در آن بر این نکته تاکید شده بود که فناوری های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت ایجاد می نمایند و در این نامه آنها خواهان آن شدند که تحقیقات درباره هوش مصنوعی تا زمانی که خطرات احتمالی آن بیشتر شناخته شود، متوقف شود.

یوشوا بنجیو، استاد و محقق هوش مصنوعی در دانشگاه مونترئال دراین باره گفته: ما باید حسابی مراقب باشیم.

این روزها گزارش های منتشره در رسانه ها به طرز فزاینده ای، هشدارهایی را در خصوص پیامدهای ناخواسته این فناوری مخرب رو به رشد صادر می نمایند و این درحالی است که در سوی دیگر وعده های مجذوب کننده و وسوسه نماینده فوق العاده ای در خصوص خدمات هوش مصنوعی در طیف وسیعی از بخش ها، از صنعت و اقتصاد و آموزش و علم گرفته تا کشاورزی، پزشکی و تحقیقات به گوش می رسد.

یکی از موارد نگرانی، درباره رفتارهای پیش بینی نشده است که تحت عنوان مجموعه ای از تعاملات پیش بینی نشده و برنامه ریزی نشده در یک سیستم تعریف می شوند و از رفتارهای برنامه ریزی شده ساده تر در بخش های جداگانه ناشی می شوند.

محققان بر این باورند که بعضی شواهد از چنین رفتاری در بعضی مدل ها مشاهده شده؛ مثلا در سیستم هایی که یاد می گیرند تا شطرنج بازی نمایند و یا استراتژی هایی برای پیشرفت مشخص می نمایند و یا زمانی که ربات ها تغییرپذیری هایی را در الگوهای حرکتی به نمایش می گذارند که در ابتدا برنامه ریزی نشده بود.

اتان دایر، دانشمند کامپیوتر گوگل در واکنش به یک آزمایش هوش مصنوعی که در آن یک کامپیوتر به طرز غیرمنتظره ای به تنهایی و با بهره گیری از چند ایموجی، عنوانی برای یک فیلم انتخاب کرد گفت: با وجودی که در انتظار شگفتی بودم، اما واقعا از کارهایی که این مدل ها می توانند انجام دهند، حیرت زده شدم. اما دایر احتمالا از شنیدن این خبر که یک تیم تحقیقاتی در دانشگاه استنفورد آب پاکی را برروی گزارش های رفتارهای پیش بینی نشده ریخته، حیرت زده خواهد شد.

رایان شافر، براندو میراندا و سانمی کیوجو، هفته گذشته مقاله ای را منتشر و در آن اعلام کردند که شواهد رفتارهای پیش بینی نشده مبتنی بر آماری است که به احتمال قریب به یقین به اشتباه تفسیر شده اند. آنها در این باره گفته اند: پیام ما این است که ادعای قبلی درباره توانایی های پیش بینی نشده، احتمالا سرابی است که به وسیله تحلیل های محققان ایجاد شده است.

آنها در مقاله خود شرح داده اندکه توانایی مدل های زبان بزرگ، با مشخص درصد پیش بینی های صحیح آنها میزان گیری می شود. تجزیه و تحلیل های آماری ممکن است به روش های متعددی ارائه شوند. محققان معتقدند که زمانی که نتایج در معیارهای غیرخطی و یا ناپیوسته گزارش می شوند، تغییرات تند و تیز و غیرقابل پیش بینی ای به نظر می رسند که به اشتباه به عنوان شاخص های رفتاری پیش بینی نشده تعبیر خواهند شد.

بیشتر بخوانید:

• حواستان باشد به ChatGPT چه می گویید که بعدا پشیمان نشوید!
• باکتری سایبورگ، ترکیب باورنکردنی ماشین و موجود زنده میکروسکوپی

در هر صورت یک ابزار جایگزین برای میزان گیری داده های یکسان، استفاده از معیارهای خطی است که تغییراتی هموار و پیوسته را نشان می دهد که برخلاف میزان گیری های قبلی، از رفتارهای قابل پیش بینی و غیر اضطراری خبر می دهند.

تیم دانشگاه استنفورد در ادامه به این نکته اشاره نموده که عدم استفاده از نمونه های بزرگ، منجر به نتیجه گیری های اشتباه می شود: ادعاهای موجود درباره توانایی های پیش بینی نشده، به وسیله تحلیل های محققان خلق شده اند و تغییرات اساسی در رفتار مدل در وظایف و امور خاص نیستند.

آنها در ادامه تاکید کردند که اگر چه روش شناسی در تحقیقات گذشته، احتمالا نتایج گمراه نماینده ای را به همراه داشته ، اما هر آنچه که در مقاله تحقیقاتی آنها درج شده نیز نباید به این صورت تفسیر شود که مدل های زبانی بزرگ نمی توانند توانایی های پیش بینی نشده را به نمایش بگذارند و روش شناسی مناسب، می تواند به خوبی از چنین ظرفیت هایی رونمایی کند.

این محققان گفته اند:دستورالعمل اصلی، برای یک کار ثابت و یک خانواده مدل ثابت است و محقق می تواند معیارهایی برای خلق یک توانایی پیش بینی نشده برگزیده و یا معیاری برای حذف یک توانایی پیش بینی نشده انتخاب کند.

و یا همانطور که یکی از مفسران برجسته گفته:خروجی الگوریتم، به میزان پارامترهایی که سازندگان آن مشخص نموده اند، خوب از آب در می آید. بدان معنا که فضا برای سوگیری های احتمالی در خود هوش مصنوعی وجود دارد.

و این مفسر برجسته چه کسی است؟ ChatGPT مایکروسافت!

منبع: techxplore

5858