هشدار متخصصان درباره «چرنوبیل هوشمندی مصنوعی»؛ یک حادثه ممکن است همهچیز را دگرگون کند
این اصطلاح به وقوع یک حادثه فجیح اشاره دارد که در آن یک سامانه هوش مصنوعی موجب خسارات فراوانی به انسانها، زیرساختهای کلیدی یا امنیت ملی کشورها میگردد.
کارشناسان بر این باورند که وقوع چنین حادثهای میتواند منجر به شکلگیری موجی از بیاعتمادی عمومی و وضع قوانین سختگیرانهتر شود و فرآیند توسعه این فناوری را برای سالها به تأخیر بیندازد.
بر اساس گزارشی که سایت Futurism منتشر کرده است، نگرانیها صرفاً به یک سناریوی خیالی محدود نمیشود.
متخصصان معتقدند که با افزایش استفاده از هوش مصنوعی در زمینههای امنیت سایبری، زیرساختهای کلیدی، بهداشت و درمان، صنایع نظامی و حتی توسعه سلاحهای بیولوژیک، احتمال بروز خطاهای پرهزینه به طور فزایندهای بالا میرود.
به همین دلیل، تعدادی از محققان بر ضرورت ایجاد سازوکارهای نظارتی و استانداردهای ایمنی قبل از وقوع یک بحران تأکید میکنند.
علاوه بر این، برخی از مدیران شرکتهای فعال در زمینه هوش مصنوعی بیان میکنند که این صنعت نباید منتظر یک فاجعه باشد.
آنها هشدار میدهند که در صورت بروز یک حادثه بزرگ، واکنشهای دولتها و افکار عمومی ممکن است منجر به وضع قوانینی بسیار سختگیرانه یا توقف برخی پروژههای هوش مصنوعی گردد؛ اتفاقی که میتواند میلیاردها دلار از سرمایهگذاریها در این حوزه را تحت تأثیر قرار دهد.
در همین راستا، رقابت شدید میان کشورهای بزرگ، به ویژه ایالات متحده و چین، باعث شده که توسعه مدلهای پیشرفته هوش مصنوعی با شتاب بیشتری ادامه پیدا کند. با این وجود، گروهی از کارشناسان تأکید دارند که همکاریهای بینالمللی در زمینه ایمنی هوش مصنوعی، مشابه همکاری کشورها در زمینه ایمنی هستهای، برای جلوگیری از یک بحران جهانی از اهمیت بالایی برخوردار است.
