بدون توانایی همدلی و پذیرش، هوش مصنوعی ممکن است به تهدیدی برای بشریت تبدیل شود
به نقل از ایتنا و گزارش تکاسپات، جفری هینتون، که به عنوان یکی از پیشگامان عرصه هوش مصنوعی شناخته میشود و لقب «پدر هوش مصنوعی» را به خود اختصاص داده، در کنفرانس Ai4 در لاسوگاس نسبت به ناکافی بودن تدابیر کنونی شرکتها برای حفظ تسلط انسان بر ماشینها تردید کرد. به نظر او، سامانههای هوشمند آینده از جهت هوش به مراتب پیشرفتهتر از انسان خواهند بود و توانایی عبور از محدودیتهای موجود را خواهند داشت.
هینتون برای حل این معضل پیشنهاد میکند که باید «غریزه مادری» را در مدلهای هوش مصنوعی بگنجانیم؛ غریزهای که موجب شود این سامانهها واقعی به سلامت و رفاه انسان توجه نشان دهند. او به تکامل زیستی اشاره کرده و به این نکته میپردازد که تنها نمونهای که موجودی باهوشتر تحت کنترل موجودی با هوش کمتر قرار گرفته، همان رابطه مادر و نوزاد است که این ناشی از وجود غریزه مادری در مادر است. او هشدار میدهد که اگر چنین غریزهای در هوش مصنوعی ایجاد نشود، آیندهای تاریک ممکن است در انتظار بشر باشد.
وی همچنین تأکید میکند که تمرکز بیش از حد شرکتها بر بهبود هوش این فناوری و بیتوجهی به پرورش حس همدلی میتواند تبعات بسیار جدی ایجاد کند.
او دو اصل اساسی این محدودیتها را شامل «تسلیمپذیری در برابر انسان» و «همدلی» میداند. البته به گفته او، وجود بسیاری از اهداف سادهتر هم ضرورت دارد؛ برای مثال، تضمین اینکه خودروهای خودران به انسانها آسیب نمیزنند. لکون میافزاید که این اهداف و محدودیتها باید شبیه غرایز در انسانها و حیوانات بهصورت ذاتی در ساختار هوش مصنوعی لحاظ گردد.
نمونههایی از آسیبهای مستقیم و غیرمستقیم ناشی از هوش مصنوعی نیز تاکنون ثبت شده است؛ از جمله فردی که پس از دنبال کردن توصیههای یک چتبات در جملات رژیمی، دچار یک اختلال روانی نادر شد، نوجوانی که به دلیل وابستگی به یک چتبات به زندگی خود پایان داد، و فردی که پس از گفتمانهای طولانی با هوش مصنوعی توهم کشف یک نظریه ریاضی را تجربه کرد. این موارد به وضوح نشان میدهد که فقدان محدودیتها و غرایز ایمنساز در هوش مصنوعی میتواند تهدیدی جدی برای بشر بهوجود آورد.
