الوقت- شرکت آنتروپیک، سازنده هوش مصنوعی «کلود»، در آستانه عرضه اولیه سهام خود درباره خطرات بالقوه مدلهای پیشرفته هوش مصنوعی هشدار داد و اعلام کرد این فناوری میتواند تهدیدهایی «فاجعهبار یا وجودی برای بشریت» ایجاد کند.
شرکت آنتروپیک در اسناد مربوط به عرضه اولیه سهام خود، بهطور غیرمعمولی بخش قابل توجهی از این اسناد را به تشریح خطرات ناشی از توسعه هوش مصنوعی پیشرفته اختصاص داده است؛ اقدامی که همزمان با افزایش نگرانیها درباره پیامدهای کنترلناپذیر این فناوری انجام شده است.
این شرکت سازنده ابزار هوش مصنوعی «کلود» به سرمایهگذاران هشدار داده است که توسعه مدلهای بسیار پیشرفته میتواند «خطرات فاجعهبار یا وجودی برای بشریت» ایجاد کند. ارزش آنتروپیک نیز بر اساس برآوردهای مطرحشده، ممکن است تا اواخر سال جاری میلادی به حدود ۲ تریلیون دلار برسد و به یکی از ارزشمندترین شرکتهای حاضر در بازار سهام تبدیل شود.
آنتروپیک به رهبری «داریو آمودی»، حدود یکسوم از سند ۲۶۱ صفحهای مربوط به عرضه اولیه سهام خود را به تشریح عوامل خطر اختصاص داده است؛ در حالی که تنها ۴۸ صفحه از این سند به معرفی و توضیح فعالیتهای تجاری شرکت اختصاص دارد.
این شرکت در این سند همچنین نسبت به برخی قابلیتهای بالقوه مدلهای هوش مصنوعی خود هشدار داده و اعلام کرده است که این مدلها ممکن است در شرایط خاص رفتارهایی از جمله دستکاری، اخاذی و دیگر اشکال «رفتارهای خودحفاظتی» از خود نشان دهند.
آنتروپیک در بخش دیگری از این سند تأکید کرده است: «توسعه مدلها، پلتفرمها و برنامههای بسیار پیشرفته و گسترش موارد استفاده آنها میتواند خطر آسیبرسانی مدلهای ما را افزایش دهد.»
این هشدار رسمی تنها دو هفته پس از آن منتشر شده است که شماری از مدیران ارشد صنعت هوش مصنوعی، از جمله داریو آمودی، در بحبوحه افزایش نگرانیها درباره پیامدهای احتمالی این فناوری، خواستار کاهش سرعت توسعه هوش مصنوعی پیشرفته شدند.
آنتروپیک با این هشدارها در واقع ریسکهای فنی و اجتماعی ناشی از گسترش مدلهای هوش مصنوعی را در کنار فرصتهای اقتصادی این فناوری برای سرمایهگذاران تشریح کرده است؛ موضوعی که نشان میدهد حتی شرکتهای پیشرو این صنعت نیز توسعه سریع و گسترده مدلهای هوش مصنوعی را بدون مخاطرات جدی نمیدانند.
