اصطلاحات هوش مصنوعی که بهتر است بدانید، قسمت سوم

در ادامه معرفی اصطلاحات مربوط به حوزه هوش مصنوعی، در این مطلب هم با تعداد دیگری از آنها آشنا خواهیم شد.

RAMageddon(رام‌آگدون)

یه اصطلاح بامزه برای روند نه‌چندان بامزه‌ای که در حال جارو کردن صنعت فناوری است: کمبود روزافزون حافظه دسترسی تصادفی یا RAM که تقریباً تمام محصولات فناوری روزمره ما را تغذیه می‌کنند. با شکوفایی صنعت هوش مصنوعی، بزرگ‌ترین شرکت‌های فناوری و آزمایشگاه‌های هوش مصنوعی — که همه برای داشتن قدرتمندترین و کارآمدترین هوش مصنوعی رقابت می‌کنند — آن‌قدر RAM برای مراکز داده خود می‌خرند که چیز زیادی برای بقیه باقی نمانده. و این تنگنای عرضه یعنی آنچه باقی مانده روزبه‌روز گران‌تر می‌شود.
این شامل صنایع مثل گیمینگ (جایی که شرکت‌های بزرگ مجبور شده‌اند قیمت کنسول‌ها را افزایش دهند چون پیدا کردن تراشه حافظه سخت‌تر شده)، الکترونیک مصرفی (جایی که کمبود حافظه می‌تواند بزرگ‌ترین افت در تولید گوشی‌های هوشمند در بیش از یک دهه را ایجاد کند) و محاسبات سازمانی عمومی (چون این شرکت‌ها نمی‌توانند RAM کافی برای مراکز داده خود پیدا کنند) می‌شود. انتظار می‌رود افزایش قیمت‌ها فقط پس از پایان کمبود متوقف شود، اما متأسفانه نشانه زیادی از نزدیک بودن آن وجود ندارد.

Recurrent Depth (عمق بازگشتی)
نام «فنی‌تر» برای همان روش زیربنایی opaque recurrence (حلقه کردن یک پرسش از لایه‌های مدل به‌دفعات زیاد به‌جای استدلال متوالی به زبان). رسانه‌ها تقریباً این دو اصطلاح را به‌جای هم استفاده می‌کنند، به همین دلیل آن را اینجا آورده‌ایم، هرچند «عمق بازگشتی» اصطلاح مهندسی است و «بازگشت مبهم» چارچوبی است که نگرانی ایمنی را برجسته می‌کند.

Recursive Self-Improvement (خودبهبودی بازگشتی)
مثل AGI، آستانه‌ای برای اینکه هوش مصنوعی چقدر می‌تواند هوشمند شود و چقدر کم به انسان وابسته باشد. در سناریوی RSI، مدل‌های هوش مصنوعی بدون دخالت انسان شروع به بهبود خود می‌کنند و به شتاب عظیمی در قابلیت‌ها و خودمختاری منجر می‌شوند. در برخی روایت‌ها، این لحظه‌ای فاجعه‌بار شبیه تکینگی خواهد بود؛ لحظه‌ای که مدل‌های هوش مصنوعی در برابر مداخله خارجی ایمن می‌شوند. اما RSI همچنین یک قابلیت پایه را توصیف می‌کند — آیا یک مدل هوش مصنوعی می‌تواند جانشین خود را طراحی کند؟ — که ساخت آن را برای مهندسان بسیار آسان‌تر می‌کند. تعدادی از استارتاپ‌های اخیر هوش مصنوعی هدف ساخت مدل‌های خودبهبودشونده بازگشتی را تعیین کرده‌اند، اما بیشتر آن‌ها پیامدهای آخرالزمانی را رد می‌کنند و RSI را صرفاً مرز بعدی تحقیقات معرفی می‌کنند.

Reinforcement Learning (یادگیری تقویتی)
روشی برای آموزش هوش مصنوعی با الهام از علم روان‌شناسی که در آن سیستم با امتحان کردن چیزها و دریافت پاداش برای پاسخ‌های صحیح یاد می‌گیرد — مثل آموزش حیوان خانگی محبوبتان با خوراکی، با این تفاوت که «حیوان خانگی» در این سناریو یک شبکه عصبی است و «خوراکی» یک سیگنال ریاضی نشان‌دهنده موفقیت. برخلاف یادگیری نظارت‌شده که مدل روی یک مجموعه داده ثابت از مثال‌های برچسب‌خورده آموزش می‌بیند، یادگیری تقویتی به مدل اجازه می‌دهد محیط خود را کاوش کند، اقدام کند و به‌طور مداوم رفتار خود را بر اساس بازخوردی که دریافت می‌کند به‌روزرسانی کند. این رویکرد به‌ویژه برای آموزش هوش مصنوعی برای بازی کردن، کنترل ربات‌ها و اخیراً تقویت توانایی استدلال مدل‌های زبانی بزرگ قدرتمند بوده است. تکنیک‌هایی مثل یادگیری تقویتی از بازخورد انسانی (RLHF) اکنون مرکزی برای نحوه تنظیم دقیق مدل‌ها توسط آزمایشگاه‌های پیشرو هوش مصنوعی برای مفیدتر، دقیق‌تر و ایمن‌تر بودن هستند.

Token (توکن)
در ارتباط انسان-ماشین چالش‌های آشکاری وجود دارد — مردم با زبان انسانی ارتباط برقرار می‌کنند، در حالی که برنامه‌های هوش مصنوعی وظایف را از طریق فرآیندهای الگوریتمی پیچیده مبتنی بر داده اجرا می‌کنند. توکن‌ها این شکاف را پر می‌کنند: آن‌ها بلوک‌های ساختمانی پایه ارتباط انسان-هوش مصنوعی هستند و بخش‌های گسسته داده‌ای را نشان می‌دهند که توسط یک LLM پردازش یا تولید شده‌اند. آن‌ها از طریق فرآیندی به نام توکن‌سازی ایجاد می‌شوند که متن خام را به واحدهای قابل‌هضم برای مدل زبانی می‌شکند، شبیه به اینکه یک کامپایلر(چیزی شبیه مترجم)، زبان انسانی را به کد باینری قابل‌فهم برای کامپیوتر ترجمه می‌کند. در محیط‌های سازمانی، توکن‌ها همچنین هزینه را تعیین می‌کنند — بیشتر شرکت‌های هوش مصنوعی استفاده از LLM را بر اساس تعداد توکن شارژ می‌کنند، یعنی هرچه کسب‌وکار بیشتر استفاده کند، بیشتر می‌پردازد.

Token Throughput (توان عملیاتی توکن)
Throughput به میزان چیزی که در یک دوره زمانی مشخص می‌توان پردازش کرد اشاره دارد، پس توان عملیاتی توکن اساساً معیاری از میزان کار هوش مصنوعی است که یک سیستم می‌تواند همزمان مدیریت کند. توان عملیاتی بالای توکن هدف کلیدی تیم‌های زیرساخت هوش مصنوعی است، چون تعیین می‌کند یک مدل چند کاربر را همزمان می‌تواند سرویس دهد و هر کدام چقدر سریع پاسخ دریافت می‌کنند. آندری کارپاتی، محقق هوش مصنوعی، توصیف کرده که وقتی اشتراک‌های هوش مصنوعی‌اش بیکار می‌مانند اضطراب می‌گیرد — بازتاب احساسی که به‌عنوان دانشجوی تحصیلات تکمیلی وقتی سخت‌افزار گران‌قیمت کامپیوتر به‌طور کامل استفاده نمی‌شد داشت — احساسی که نشان می‌دهد چرا به حداکثر رساندن توان عملیاتی توکن به نوعی وسواس در این حوزه تبدیل شده است.

Training (آموزش)
توسعه هوش مصنوعی‌، شامل فرآیندی به نام آموزش است. به‌طور ساده، به تغذیه داده اشاره دارد تا مدل بتواند از الگوها یاد بگیرد و خروجی‌های مفید تولید کند. اساساً فرآیند پاسخ سیستم به ویژگی‌های داده است که به آن اجازه می‌دهد خروجی‌ها را به‌سمت هدف مورد نظر تطبیق دهد — چه شناسایی تصاویر گربه باشد یا تولید یک هایکو به‌درخواست.
آموزش می‌تواند گران باشد چون به ورودی‌های زیادی نیاز دارد و حجم مورد نیاز رو به افزایش بوده — به همین دلیل رویکردهای ترکیبی مثل تنظیم دقیق یک هوش مصنوعی مبتنی بر قوانین با داده‌های هدفمند می‌تواند به مدیریت هزینه‌ها بدون شروع کامل از صفر کمک کند.

Transfer Learning (یادگیری انتقالی)
تکنیکی که در آن یک مدل هوش مصنوعی که قبلاً آموزش‌ دیده است به‌عنوان نقطه شروع برای توسعه یک مدل جدید با وظیفه متفاوت ولی مرتبط استفاده می‌شود — و اجازه می‌دهد دانش به‌دست‌آمده در چرخه‌های آموزشی قبلی دوباره به کار گرفته شود.
یادگیری انتقالی می‌تواند با کوتاه کردن توسعه مدل، صرفه‌جویی در کارایی ایجاد کند. همچنین وقتی داده برای وظیفه‌ای که مدل برای آن توسعه می‌یابد محدود است مفید است. اما مهم است توجه شود که این رویکرد محدودیت‌هایی دارد. مدل‌هایی که برای کسب قابلیت‌های عمومی به یادگیری انتقالی متکی هستند احتمالاً برای عملکرد خوب در حوزه تمرکز خود به آموزش روی داده‌های اضافی نیاز خواهند داشت.

Validation Loss (ضرر اعتبارسنجی)
عددی که نشان می‌دهد یک مدل هوش مصنوعی در طول آموزش چقدر خوب یاد می‌گیرد — و هرچه کمتر باشد بهتر است. محققان آن را از نزدیک به‌عنوان نوعی کارنامه بلادرنگ دنبال می‌کنند تا تصمیم بگیرند چه زمانی آموزش را متوقف کنند، چه زمانی اَبَرپارامترها را تنظیم کنند، یا آیا باید مشکل بالقوه‌ای را بررسی کنند. یکی از نگرانی‌های کلیدی که کمک می‌کند شناسایی شود، بیش‌برازش(Overfitting) است؛ وضعیتی که در آن مدل داده‌های آموزشی خود را حفظ می‌کند به‌جای اینکه واقعاً الگوهایی را یاد بگیرد که بتواند به موقعیت‌های جدید تعمیم دهد. آن را مثل تفاوت بین دانش‌آموزی که واقعاً مطالب را فهمیده و دانش‌آموزی که فقط امتحان سال قبل را حفظ کرده تصور کنید — ضرر اعتبارسنجی کمک می‌کند بفهمید مدل شما کدام‌یک می‌شود.

Weights (وزن‌ها)
وزن‌ها هسته آموزش هوش مصنوعی هستند، چون تعیین می‌کنند چقدر اهمیت (یا وزن) به ویژگی‌های مختلف (یا متغیرهای ورودی) در داده‌های استفاده‌شده برای آموزش سیستم داده شود — و در نتیجه خروجی مدل هوش مصنوعی را شکل می‌دهند.
به عبارت دیگر، وزن‌ها پارامترهای عددی هستند که تعیین می‌کنند چه چیزی در یک مجموعه داده برای وظیفه آموزشی داده‌شده برجسته‌تر است. آن‌ها با اعمال ضرب روی ورودی‌ها به این عملکرد دست می‌یابند. آموزش مدل معمولاً با وزن‌هایی که به‌صورت تصادفی اختصاص داده شده‌اند شروع می‌شود، اما با پیشروی فرآیند، وزن‌ها تنظیم می‌شوند در حالی که مدل سعی می‌کند به خروجی‌ای برسد که نزدیک‌تر به هدف باشد.
مثلاً یک مدل هوش مصنوعی برای پیش‌بینی قیمت مسکن که روی داده‌های تاریخی املاک یک مکان خاص آموزش دیده، می‌تواند وزن‌هایی برای ویژگی‌هایی مثل تعداد اتاق خواب و حمام، اینکه ملک مستقل است یا نیمه‌مستقل، آیا پارکینگ دارد، گاراژ دارد و غیره داشته باشد.
در نهایت، وزن‌هایی که مدل به هر یک از این ورودی‌ها اختصاص می‌دهد، نشان‌دهنده میزان تأثیر آن‌ها بر ارزش ملک بر اساس مجموعه داده داده‌شده است.

هوش مصنوعی لحظه به لحظه آپدیت می‌شود و اصطلاحات مربوط به آن همینطور. تلاش ما هم بر این است که اصطلاحات و مفاهیم تازه آن را با شما به اشتراک بگذاریم.