دانشمند ارشد OpenAI خواستار «احتیاط شدید» در سرعت توسعه هوش مصنوعی شد

یاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد OpenAI، در مقاله‌ای با عنوان «یک ذهن بیگانه» (An Alien Mind) که روز یکشنبه منتشر شد، هشدار داد که هوش مصنوعی با سرعتی در حال پیشرفت است که درک و کنترل آن برای انسان‌ها هر روز سخت‌تر می‌شود.
او نوشته است که مدل‌های هوش مصنوعی در مدت نسبتاً کوتاهی توانسته‌اند کامپیوترها را کنترل کنند، با انسان‌ها و سیستم‌های دیگر همکاری کنند و پروژه‌های تحقیقاتی انجام دهند. به‌زودی ممکن است به مرحله‌ای برسند که بدون دخالت انسان، خودشان را بهبود ببخشند (پدیده‌ای به نام recursive self-improvement یا خودبهبودی بازگشتی).
پاچوکی تأکید کرده:
«این زمانی است که احتیاط شدید می‌طلبد. من نگرانم که هیچ‌کس برای پیامدهای ادامه رشد سریع هوش ماشینی آماده نیست.»
او گفته است که در حال حاضر هیچ آزمایشگاهی مسئله هم‌راستایی (alignment) و نظارت را به اندازه‌ای حل نکرده که بتوان با خیال راحت با حداکثر سرعت به مقیاس‌پذیری ادامه داد. به همین دلیل امیدوار است که «کاهش سرعت داوطلبانه» در صنعت رایج شود تا استانداردهای ایمنی مشترک شکل بگیرد.
همچنین خواستار اولویت‌یافتن هماهنگی بین‌المللی دولت‌ها در مورد توسعه آینده هوش مصنوعی شده است.
این هشدار چند روز پس از عرضه مدل GPT-6 Astra منتشر شده و سام آلتمن هم آن را در ایکس بازنشر کرده و «مهم» خوانده است.
با توجه به نفوذ Agent های OpenAI به هاگینگ‌فیس، این هشدار که از طرف یکی از نخبه‌های دنیای هوش مصنوعی صادر شده، بیش از اندازه مهم و جدی در نظر گرفته می‌شود.