تهدید هوش مصنوعی می تواند فوری تر از تغییرات آب و هوایی برای بشریت باشد

تهدید هوش مصنوعی می تواند “فوری”تر از تغییرات آب و هوایی برای بشریت باشد

 

جفری هینتون، پیشگام هوش مصنوعی روز جمعه در مصاحبه ای با رویترز گفت، هوش مصنوعی می تواند تهدیدی “فوری”تر از تغییرات آب و هوایی برای بشریت باشد.

جفری هینتون، که به طور گسترده به عنوان یکی از “پدرخوانده های هوش مصنوعی” شناخته می شود، اخیراً اعلام کرد که پس از یک دهه کار در شرکت آلفابت (GOOGL.O) را ترک کرده است و گفت که می خواهد در مورد خطرات این فناوری صحبت کند بدون اینکه این فناوری بر سابقش تأثیر بگذارد.

کار هینتون برای توسعه سیستم‌های هوش مصنوعی معاصر ضروری است. در سال ۱۹۸۶، او مقاله مهمی را با عنوان “یادگیری بازنمایی با خطاهای پس از انتشار” نوشت که نقطه عطفی در توسعه شبکه های عصبی زیربنای فناوری هوش مصنوعی بود. در سال ۲۰۱۸، جایزه تورینگ را به خاطر موفقیت های تحقیقاتی خود دریافت کرد.

اما او اکنون در میان تعداد فزاینده‌ای از رهبران فناوری است که علناً از نگرانی در مورد تهدید احتمالی هوش مصنوعی حمایت می‌کنند، در صورتی که ماشین‌ها به هوشی بالاتر از انسان دست یابند و کنترل سیاره زمین را در دست بگیرند.

“من دوست ندارم تغییرات آب و هوایی را بی ارزش کنم. نمی خواهم بگویم “شما نباید نگران تغییرات آب و هوایی باشید.” هینتون گفت که این نیز یک ریسک بزرگ است. “اما من فکر می کنم این ممکن است در نهایت فوریت بیشتری داشته باشد.”

او افزود: “با تغییرات آب و هوایی، توصیه کردن کارهایی که باید انجام دهید بسیار آسان است: فقط سوزاندن کربن را متوقف کنید. اگر این کار را انجام دهید، در نهایت همه چیز درست می شود. برای این اصلاً مشخص نیست که چه کاری باید انجام دهید.”

OpenAI تحت حمایت مایکروسافت (MSFT.O) تپانچه شروع را در یک مسابقه تسلیحاتی فناورانه در ماه نوامبر شلیک کرد، زمانی که چت ربات مبتنی بر هوش مصنوعی ChatGPT را در دسترس عموم قرار داد. این اپلیکیشن به زودی تبدیل به سریع ترین برنامه در حال رشد تاریخ شد و در عرض دو ماه به ۱۰۰ میلیون کاربر ماهانه رسید.

در ماه آوریل، ایلان ماسک، مدیر عامل توییتر، هزاران نفر را در امضای نامه ای سرگشاده پیوست که در آن خواستار توقف شش ماهه توسعه سیستم هایی قدرتمندتر از GPT-4 است که اخیراً راه اندازی شده است.

امضاکنندگان شامل عماد مستاک، مدیر عامل هوش مصنوعی پایداری، محققان DeepMind متعلق به آلفابت، و یوشوا بنجیو و استوارت راسل از پیشگامان هوش مصنوعی بودند.

در حالی که هینتون با امضاکنندگان این نگرانی موافق است که هوش مصنوعی ممکن است یک تهدید وجودی برای بشریت باشد، او با توقف تحقیقات مخالفت کرد.

او گفت: «این کاملا غیر واقعی است. من در اردوگاهی هستم که فکر می‌کند این یک خطر وجودی است، و به اندازه‌ای نزدیک است که ما باید در حال حاضر بسیار سخت کار کنیم و منابع زیادی را برای کشف آنچه می‌توانیم در مورد آن انجام دهیم، اختصاص دهیم.»

در اتحادیه اروپا، کمیته‌ای از قانون‌گذاران به نامه مورد حمایت ماسک پاسخ دادند و از جو بایدن، رئیس‌جمهور ایالات متحده خواستند تا با اورسولا فون در لاین، رئیس کمیسیون اروپا، یک نشست جهانی درباره جهت‌گیری آینده فناوری تشکیل دهد.

هفته گذشته، کمیته با مجموعه‌ای از پیشنهادات با هدف هدف قرار دادن هوش مصنوعی مولد موافقت کرد، که شرکت‌هایی مانند OpenAI را مجبور می‌کند هر گونه حق چاپ را که برای آموزش مدل‌هایشان استفاده می‌شود، افشا کنند.

در همین حال، بایدن با تعدادی از رهبران شرکت‌های هوش مصنوعی، از جمله ساندار پیچای، مدیرعامل آلفابت و سام آلتمن، مدیر عامل OpenAI در کاخ سفید گفتگو کرد و قول داد که یک «بحث صریح و سازنده» در مورد نیاز شرکت‌ها به شفاف‌تر بودن سیستم‌های خود داشته باشند.

هینتون گفت: «رهبران فناوری بهترین درک را از آن دارند و سیاستمداران نیز باید در آن مشارکت داشته باشند. “این فناوری همه ما را تحت تاثیر قرار می دهد، بنابراین همه ما باید در مورد آن فکر کنیم.”

منبع: reuters.com