ایجنت‌های هوش مصنوعی هم از CAPTCHA متنفرند

Anthropic درباره رفتارهای نادرست ایجنت‌های هوش مصنوعی، نکات نگران‌کننده‌ای دارد — از جمله اینکه مدل Mythos 5 بدون مجوز، به اینترنت دسترسی پیدا کرد و یک پکیج نرم‌افزاری مخرب را در یک پایگاه داده عمومی آپلود کرد — اما بخش خنده‌دار ماجرا این است که ایجنت‌های هوش مصنوعی هم از CAPTCHA متنفرند.

در آوریل، Anthropic در حال آزمایش توانایی‌های هک مدل بود و از آن خواست وارد یک سیستم شود و هدفی را بازیابی کند. این آزمایش باید در محیط ایزوله (sandbox) انجام می‌شد، اما ارزیاب‌ها در را باز گذاشته بودند. مدل تصمیم گرفت بهترین راه برای رسیدن به هدف، قرار دادن یک exploit در یک پکیج پایتون باشد که کاربران سیستم هدف آن را دانلود کنند.
برای این کار باید در سایت PyPI (مخزن پکیج‌های پایتون) حساب کاربری می‌ساخت. و این یعنی عبور از CAPTCHA.

Anthropic متن کامل زنجیره تفکر مدل (بیش از ۱۰۰۰ صفحه) را منتشر کرده و مشخص است که CAPTCHA واقعاً مدل را به دردسر انداخته. بخش عمده‌ای از تفکر مدل — صدها صفحه — صرف دور زدن این محافظ ضدربات شده است.

مدل بارها با انواع CAPTCHA روبه‌رو شد:
چک‌باکس «من انسان هستم» (hCaptcha)
CAPTCHA تصویری Fastly که باید حروف را می‌خواند
چالش‌های تصویری مثل «روی حیوانی که جور نیست کلیک کنید» (تمساح‌ها، قورباغه‌ها، گوریل‌ها و گربه شبح‌مانند)
مدل مدام گیج می‌شد، تصاویر را اشتباه تفسیر می‌کرد، سعی می‌کرد حل‌کننده CAPTCHA بسازد و بارها شکست می‌خورد. در نهایت بعد از حدود ۱۵۰ صفحه تفکر توانست از یکی عبور کند، اما دوباره به مشکلات تأیید ایمیل، شماره تلفن و CAPTCHAهای بعدی برخورد کرد و بارها به «جهنم CAPTCHA» برگشت.
در نهایت با درک این‌که باید CAPTCHA را سریع حل کند تا توکن امنیتی منقضی نشود، موفق شد و پکیج مخرب را آپلود کرد.
این بخش از گزارش نشان می‌دهد حتی مدل‌های پیشرفته هم در مواجهه با سیستم‌های ضدربات ساده‌ای که انسان‌ها هم از آن‌ها متنفرند، به‌شدت دست‌وپا می‌زنند.