محققان و کارشناسان فناوری در با امضای یک نامه سرگشاده خواستار توقف موقت توسعه هوش مصنوعی شدند. این محققان اظهار دارند: هوش مصنوعی پیشرفته می‌تواند تغییرات زیادی (چه خوب و چه بد) در جهان ایجاد کند.
بیش از ۲۶۰۰ کارشناس فناوری و محقق با امضای نامه‌ای سرگشاده خواستار توقف موقت توسعه بیشتر هوش مصنوعی (AI) شده‌اند؛ زیرا از “خطرات عمیق برای جامعه و بشریت” می‌ترسند.
ایلان ماسک، مدیرعامل تسلا، استیو وزنیاک از بنیانگذاران اپل و تعدادی از مدیر عامل‌های هوش مصنوعی، مدیران ارشد فناوری و محققان از جمله امضاکنندگان این نامه بودند که توسط موسسه آینده زندگی (FOLI) در ایالات متحده در ۲۲ مارس منتشر شد.
این مؤسسه از همه شرکت‌های هوش مصنوعی خواست تا آموزش سیستم‌های هوش مصنوعی را که از GPT-4 قوی‌تر هستند، حداقل برای شش ماه «متوقف کنند» و نگرانی‌هایی را در مورد اینکه «هوش رقابتی انسانی می‌تواند خطرات زیادی برای جامعه و بشریت ایجاد کند» را به اشتراک بگذارند.
📢 We're calling on AI labs to temporarily pause training powerful models!
— Future of Life Institute (@FLIxrisk) March 29, 2023
Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc
A short 🧵on why we're calling for this – (1/8)
ما از آزمایشگاه‌های هوش مصنوعی می‌خواهیم آموزش مدل‌های قدرتمند را موقتاً متوقف کنند!
هوش مصنوعی پیشرفته می‌تواند نشان دهنده تغییری عمیق در تاریخ حیات روی زمین باشد و باید با دقت و منابع مناسب، برنامه ریزی و مدیریت شود. متاسفانه در حال حاضر این سطح از برنامه‌ریزی و مدیریت وجود ندارد.
مطلب مرتبط: بهترین ارزهای دیجیتال هوش مصنوعی در سال ۲۰۲۳
GPT-4 آخرین نسخه از چت ربات مبتنی بر هوش مصنوعی OpenAI است که در ۱۴ مارس منتشر شد. تا به امروز، برخی از سخت‌ترین امتحانات دبیرستان و حقوق ایالات متحده را گذرانده است. گفته می‌شود که ۱۰ برابر پیشرفته‌تر از نسخه اصلی چت جی پی تی (ChatGPT) است.
FOLI ادعا کرد که یک “مسابقه خارج از کنترل” بین شرکت‌های هوش مصنوعی برای توسعه هوش مصنوعی قوی تر وجود دارد که “هیچکس، حتی سازندگان آن‌ها، نمی‌توانند آن را درک، پیش بینی یا به طور قابل اعتماد کنترل کنند.”
BREAKING: A petition is circulating to PAUSE all major AI developments.
— Lorenzo Green 〰️ (@mrgreen) March 29, 2023
e.g. No more ChatGPT upgrades & many others.
Signed by Elon Musk, Steve Wozniak, Stability AI CEO & 1000s of other tech leaders.
Here's the breakdown: 👇 pic.twitter.com/jR4Z3sNdDw
نگرانی‌های زیادی در فضای هوش مصنوعی وجود دارد. FOLI نشان داد که تلاش‌های کارآفرینانه شرکت‌های هوش مصنوعی ممکن است به یک تهدید منجر شود:
آیا باید ذهن‌های غیرانسانی را پرورش دهیم که در نهایت ممکن است جایگزین ما شوند؟ آیا باید منتظر از دست دادن کنترل تمدن خود باشیم؟»
در این نامه اضافه شده است: «چنین تصمیماتی نباید به رهبران فناوری منتخب واگذار شود.
این موسسه همچنین با بیانیه اخیر سام آلتمن، بنیانگذار OpenAI، موافقت کرد که قبل از آموزش سیستم‌های هوش مصنوعی آینده، باید یک بررسی کامل انجام شود.
آلتمن در فوریه ۲۴ پست وبلاگ نیاز به آمادگی برای ربات‌های هوش عمومی مصنوعی (AGI) و ابر هوش مصنوعی (ASI) را برجسته کرد.
با این حال، همه کارشناسان هوش مصنوعی برای امضای این نامه عجله نکرده‌اند. بن گورتزل، مدیر عامل SingularityNET، در پاسخ توییتری در ۲۹ مارس به گری مارکوس، نویسنده Rebooting.AI توضیح داد که مدل‌های یادگیری زبان (LLM) به AGI تبدیل نمی‌شوند و تا به امروز، پیشرفت‌های زیادی در آن صورت نگرفته است.
در عوض، او گفت: تحقیق و توسعه برای مواردی مانند سلاح‌های زیستی و هسته‌ای باید کاهش یابد:
به طور کلی، جامعه انسانی با GPT-5 بهتر از GPT-4 خواهد بود. بهتر است مدل‌های هوشمندانه‌تری در اطراف داشته باشیم. هوش مصنوعی برای کسب و کارهای انسانی کاربردی و خوب خواهد بود. مردم نیز یاد خواهند گرفت که چطور از این ابزار استفاده کنند.
علاوه بر مدل‌های یادگیری زبان مانند چت جی پی تی، فناوری جعلی مبتنی بر هوش مصنوعی برای ایجاد تصاویر متقاعدکننده، صوتی و تصویری استفاده شده است. این فناوری همچنین برای ایجاد آثار هنری تولید شده توسط هوش مصنوعی با نگرانی‌هایی در مورد اینکه آیا در موارد خاص می‌تواند قوانین کپی رایت را نقض کند یا خیر، مورد استفاده قرار گرفته است.
مایک نووگراتز، مدیرعامل گلکسی دیجیتال اخیراً به سرمایه‌گذاران گفته است: از میزان توجه نظارتی که به ارزهای دیجیتال شده است شوکه شده است، در حالی که نظارت کمی بر هوش مصنوعی اعمال شده است.
«وقتی به هوش مصنوعی فکر می‌کنم، شوکه می‌شوم که قوانین سختی برای ارزهای دیجیتال در نظر گرفته می‌شود، در حالی که به هوش مصنوعی توجهی نمی‌شود. فکر می‌کنم دولت باید بررسی دقیق‌تری داشته باشد. به جای توجه به هوش مصنوعی، رمز ارزها را مورد نظارت قرار می‌دهد.
FOLI استدلال کرد: اگر توسعه هوش مصنوعی به سرعت تصویب نشود، دولت‌ها باید آن را به حالت تعلیق درآورند.
«این توقف باید عمومی و قابل تأیید باشد و همه کارشناسان برتر را شامل شود. اگر چنین توقفی نمی‌تواند به سرعت اعمال شود، دولت‌ها باید وارد عمل شوند و آن را به حالت تعلیق درآورند.
منبع: cointelegraph
