نگرانی ایلان ماسک همچنان درباره هوش مصنوعی باقی است
وی در گفتوگویی در قالب پادکست، سه اصل «حقیقتمحوری»، «درک زیبایی» و «کنجکاوی» را بهعنوان ارکان توسعه ایمن هوش مصنوعی معرفی کرد و نسبت به مشکل «توهم» در مدلهای زبانی اعلام خطر نمود.
به گزارش ایتنا، ایلان ماسک، که در حال حاضر مدیریت تسلا، اسپیسایکس و xAI را بر عهده دارد، در گفتگو با نیکیل کامات بیان کرد که هیچ تضمینی برای مثبتبودن آینده هوش مصنوعی وجود ندارد و فناوریهای پیشرفته ممکن است عواقب مخربی داشته باشند. او که یکی از بنیانگذاران اولیه OpenAI به شمار میآید و بعداً xAI را تأسیس کرد، بارها از سرعت رشد این فناوری و خطرات آن ابراز نگرانی کرده است.
سه اصل کلیدی از دیدگاه ماسک
حقیقتمحوری: هوش مصنوعی باید بر اساس دادههای دقیق و قابل اعتماد آموزش ببیند تا از استنتاجهای نادرست و «توهم» پرهیز شود.
درک زیبایی: ماسک بر این باور است که درک زیبایی یک معیار حیاتی است که میتواند هوش مصنوعی را به سمت برداشتهای انسانیتر و معنادارتر سوق دهد.
کنجکاوی: هوش مصنوعی نیاز دارد تا کنجکاوی سازندهای داشته باشد و به دنبال درک عمیقتر واقعیتها و عوامل انسانی برود.
چالش بزرگ: توهم هوش مصنوعی
ماسک به پدیده «توهم» اشاره کرد؛ این وضعیت به زمانی اطلاق میشود که مدلهای زبانی پاسخهایی نادرست یا گمراهکننده ارائه میدهند. او نمونهای از خطاهای ایجاد شده توسط ابزارهای هوش مصنوعی را که به تازگی در سیستم Apple Intelligence مشاهده شده بودند، به یاد آورد و اظهار داشت که آموزش بر مبنای منابع ناقص یا نادرست میتواند موجب استدلالهای ناسازگار در مدلها گردد.
نظرات متخصصان دیگر
اظهارات ماسک با هشدارهای دیگر پژوهشگران هماهنگی دارد. بهعنوان مثال، جفری هینتون، دانشمند مشهور حوزه هوش مصنوعی، به تازگی احتمال ۱۰ تا ۲۰ درصدی وقوع خطرات جدی از سوی هوش مصنوعی را مطرح کرده و بر ضرورت تحقیقات گسترده در حوزه ایمنی تأکید کرده است.
نتیجهگیری
طبق گزارش CNBC، ماسک تأکید کرد که برای هدایت هوش مصنوعی به سوی نتایج مثبت، توسعهدهندگان باید بهطور همزمان بر حقیقت، زیبایی و کنجکاوی تمرکز کنند.
او بیان داشت که جهتدهی صحیح فناوری میتواند تفاوت زیادی میان آیندهای سازنده و آیندهای خطرناک ایجاد کند.
