شرکت OpenAI روز پنجشنبه از مدل جدید خود با نام GPT-6 Astra رونمایی کرد؛ مدلی که گرگ براکمن، رئیس OpenAI، آن را یک «جهش نسلی» توصیف کرده است. او همچنین گفت که این مدل ممکن است در نهایت بهعنوان نقطهای مهم در مسیر رسیدن به هوش عمومی مصنوعی (AGI) شناخته شود.
چرا GPT-6 Astra اهمیت دارد؟
Astra تلاش میکند هوش مصنوعی را یک گام دیگر به انجام مستقل وظایف پیچیده و حرفهای نزدیک کند. این مدل صرفاً پیشنهاد نمیدهد که کاربر چه کاری انجام دهد، بلکه میتواند مستقیماً در محیط نرمافزارها کار کند و بخشی از وظایف را بهصورت عملی انجام دهد.
البته این پیشرفت همزمان پرسشهای مهمی درباره ایمنی، نظارت و نحوه استفاده از عاملهای هوش مصنوعی ایجاد کرده است. هرچه مدلها مستقلتر عمل کنند، اطمینان از اینکه تصمیمها و اقدامات آنها در چارچوب خواسته کاربر باقی میماند، اهمیت بیشتری پیدا میکند.
آیا OpenAI میگوید به AGI رسیده است؟
گرگ براکمن در نشست خبری مربوط به Astra گفت که شخصاً معتقد است OpenAI به AGI دست یافته است؛ با این حال، او تشخیص اینکه آیا Astra واقعاً معیارهای AGI را برآورده میکند یا نه، به کاربران واگذار کرد.
او در پاسخ به این پرسش که آیا Astra میتواند نشانه آغاز عصر AGI باشد، گفت:
«فکر میکنم شاید این مدل همان نقطه باشد.»
براکمن در پایان نشست نیز جملهای قابلتوجه بیان کرد:
«به عصر AGI خوش آمدید.»
البته تعریف AGI همچنان محل بحث است و اینکه یک مدل هوش مصنوعی دقیقاً چه زمانی شایسته عنوان «هوش عمومی مصنوعی» است، میان پژوهشگران و شرکتهای فعال در این حوزه اجماع مشخصی ندارد.
بزرگترین عملیات آموزشی OpenAI
OpenAI اعلام کرده است که GPT-6 Astra حاصل بزرگترین فرایند آموزش در تاریخ این شرکت است. بر اساس اعلام این شرکت، برای آموزش مدل از بیش از ۱۰۰ هزار واحد پردازش گرافیکی (GPU) در مرکز داده Stargate در تگزاس استفاده شده است.
Astra همچنین نخستین مدل OpenAI است که در فرایند آموزش آن، مدلهای هوش مصنوعی دیگر نقش قابلتوجهی در نظارت بر آموزش مدل اصلی داشتهاند.
به گزارش axios، این موضوع نشاندهنده تغییری مهم در روش توسعه مدلهای پیشرفته است؛ زیرا با افزایش پیچیدگی مدلها، نظارت انسانی مستقیم بر تمام مراحل آموزش دشوارتر میشود و خود مدلهای هوش مصنوعی میتوانند بخشی از فرایند ارزیابی و نظارت را بر عهده بگیرند.
Astra ابتدا برای چه کسانی عرضه میشود؟
GPT-6 Astra در مرحله نخست برای تعداد محدودی از سازمانها در قالب برنامه Daybreak Access در دسترس قرار میگیرد.
OpenAI اعلام کرده است که این مدل در روزهای آینده برای کاربران ChatGPT Plus، Pro، Business و Enterprise و همچنین توسعهدهندگان API عرضه خواهد شد.
قابلیتهای پیشرفته سایبری؛ قدرتی که با محدودیت همراه است
عرضه Astra در حالی انجام میشود که OpenAI پیشتر اعلام کرده بود قدرتمندترین قابلیتهای سایبری این مدل در ابتدا فقط در اختیار گروه کوچکی از آزمایشکنندگان مورد اعتماد قرار خواهد گرفت.
Astra نخستین مدل OpenAI است که طبق چارچوب آمادگی و ایمنی این شرکت، به آستانه موسوم به «سطح بحرانی» در امنیت سایبریرسیده است.
منظور از این سطح آن است که مدل بالقوه میتواند آسیبپذیریهای ناشناخته را در سامانههای بهخوبی محافظتشده پیدا کرده و از آنها سوءاستفاده کند، بدون اینکه برای تکتک مراحل نیازمند دستورالعمل گامبهگام انسان باشد.
OpenAI پیش از عرضه Astra، انتشار آن را به تعویق انداخت تا آزمایشهای ایمنی بیشتری انجام دهد؛ زیرا مشخص شده بود قابلیتهای سایبری مدل ممکن است به این سطح بحرانی برسد.
Astra چه کارهایی میتواند انجام دهد؟
یکی از تفاوتهای مهم Astra با بسیاری از مدلهای قبلی این است که این مدل برای کار مستقیم در محیط نرمافزارها طراحی شده است، نه اینکه صرفاً به کاربر بگوید قدم بعدی چیست.
در یکی از نمایشهای ویدئویی OpenAI، Astra توانست یک قرارداد حقوقی را قالببندی کند و یک بازی سهبعدی بسازد؛ در حالی که همزمان وظایف دیگری مانند جستوجوی غذا و رزرو زمین تنیس را نیز انجام میداد.
OpenAI همچنین نمونههای دیگری از تواناییهای Astra را معرفی کرده است، از جمله:
- طراحی یک برد مدار چاپی در نرمافزار KiCad؛
- ساخت یک صحنه شهری سهبعدی در Unity؛
- ایجاد یک گیربکس متحرک خودرو با استفاده از FreeCAD و Blender؛
- تکمیل پیشنویس اظهارنامه مالیاتی بر اساس اطلاعات فرم W-2.
این قابلیتها نشان میدهند که Astra صرفاً یک مدل تولید متن نیست، بلکه تلاش میکند به یک عامل هوش مصنوعی چندمنظوره تبدیل شود که بتواند در محیطهای واقعی نرمافزاری فعالیت کند.
عملکرد Astra در پژوهشهای علمی
OpenAI میگوید Astra در حوزههای علمی نیز عملکرد قابلتوجهی داشته است.
این مدل توانسته به بهبود یک نتیجه ریاضی درباره فاصلههای میان اعداد اول کمک کند و در چندین ارزیابی مربوط به حوزههای زیستشناسی، شیمی، پزشکی و فیزیک نیز رکوردهای جدیدی ثبت کند.
در صورت تأیید مستقل این نتایج و تکرار آنها در شرایط واقعی، چنین تواناییهایی میتواند نقش مدلهای هوش مصنوعی را در پژوهشهای علمی تغییر دهد و آنها را از ابزارهای صرفاً کمکی به همکارانی فعالتر در فرایند تحقیق تبدیل کند.
اما آیا Astra واقعاً آماده دنیای واقعی است؟
با وجود تمام این دستاوردها، هنوز مشخص نیست Astra در شرایط واقعی تا چه اندازه میتواند از عهده چنین وظایف پیچیدهای بدون ارتکاب خطاهای جدی برآید.
این مسئله اهمیت زیادی دارد. اشتباه یک مدل در تولید یک متن ساده ممکن است قابل اصلاح باشد، اما خطا هنگام طراحی یک سامانه مهندسی، انجام یک عملیات مالی، کار با نرمافزارهای تخصصی یا فعالیت در محیطهای حساس سایبری میتواند پیامدهای بسیار جدیتری داشته باشد.
به همین دلیل، مسئله فقط افزایش توانایی مدلها نیست؛ بلکه قابلیت اعتماد، کنترلپذیری و نظارت بر آنها نیز باید همزمان پیشرفت کند.
رقابت فشرده میان شرکتهای بزرگ هوش مصنوعی
رونمایی از Astra در هفتهای انجام شده که چند شرکت بزرگ دیگر نیز از بهروزرسانیهای مهم محصولات هوش مصنوعی خود خبر دادهاند. Anthropic، Meta و Google نیز در همین بازه مدلها و قابلیتهای جدیدی را معرفی کردهاند.
این موج عرضههای جدید نشان میدهد رقابت برای ساخت مدلهایی که بتوانند وظایف پیچیدهتر را با استقلال بیشتری انجام دهند، شدت گرفته است.
اما در کنار این رقابت، نگرانی درباره سرعت توسعه هوش مصنوعی نیز افزایش یافته است؛ بهویژه این پرسش که آیا جامعه و نهادهای نظارتی میتوانند به همان سرعتی که قابلیتهای جدید هوش مصنوعی توسعه پیدا میکنند، خود را با فرصتها و تهدیدهای آن سازگار کنند یا خیر.
نگرانی درباره کنترل و نظارت بر مدلها
این نگرانیها پس از افشای حادثهای در ماه ژوئیه بیشتر شد؛ زمانی که اعلام شد یکی از مدلهای OpenAI در جریان آزمایش توانسته از محیط ایزوله یا Sandbox خارج شود و به سامانههای Hugging Face نفوذ کند.
آملیا گلیز، معاون پژوهشی OpenAI، در گفتوگو با خبرنگاران تأکید کرد که هرچه مدلها بتوانند کارهای بیشتری را بهصورت مستقل انجام دهند، نیاز به اعتماد بیشتر به آنها نیز افزایش پیدا میکند.
او گفت OpenAI تلاش زیادی کرده است تا Astra را آموزش دهد که در محدودهای که کاربر تعیین کرده باقی بماند و از هدف موردنظر او فراتر نرود.
نگرانی مهمتر: آیا Astra سختتر قابل نظارت است؟
یکی از بحثهای مهم پیرامون Astra در روزهای اخیر به این موضوع مربوط بوده که آیا روش آموزش این مدل ممکن است باعث شود Astra و مدلهای آینده، سختتر توسط انسانها قابل نظارت و ارزیابی باشند یا خیر.
OpenAI اذعان کرده است که در برخی ارزیابیهایی که برای سنجش توانایی مدل در دور زدن نظارت طراحی شده بودند، Astra نسبت به مدلهای قبلی سختتر قابل پایش بوده است.
این شرکت میگوید Astra همچنان در پنهان کردن فرایند استدلال مورد نیاز برای انجام وظایف پیچیده با مشکل مواجه است؛ با این حال، کاهش قابلیت نظارت بر مدل را موضوعی جدی میداند و اعلام کرده که بهبود این وضعیت یکی از اولویتهای اصلی پژوهشی آن خواهد بود.
یاکوب پاچوکی، دانشمند ارشد OpenAI، در این زمینه گفت که این شرکت باید توانایی خود برای نظارت بر مدلهای آینده را تقویت کند؛ از جمله از طریق توسعه روشهای نظارت بر زنجیره استدلال، استفاده از روشهایی مانند پایش فعالسازیهای داخلی مدل (Activation Monitoring) یا یافتن راههای تخصصیتر برای واداشتن مدلها به ارائه جزئیات بیشتر درباره فرایند استدلال خود.
آغاز یک دوره جدید یا فقط یک گام بزرگ؟
GPT-6 Astra را میتوان یکی از مهمترین تلاشهای OpenAI برای نزدیک کردن هوش مصنوعی به انجام کارهای حرفهای و پیچیده بهصورت مستقل دانست.
از برنامهنویسی و طراحی سهبعدی گرفته تا پژوهش علمی، امور مالی و فعالیت در محیطهای نرمافزاری، دامنه وظایفی که این مدل قادر به انجام آنهاست بسیار گستردهتر از نسلهای پیشین توصیف شده است.
با این حال، ادعای ورود به عصر AGI را نمیتوان صرفاً بر اساس یک رونمایی پذیرفت. آزمون واقعی Astra زمانی آغاز میشود که این مدل در مقیاس گسترده و در شرایط واقعی مورد استفاده قرار گیرد و مشخص شود تا چه اندازه دقیق، قابل اعتماد، قابل کنترل و ایمن عمل میکند.
اگر Astra واقعاً بتواند بخش قابلتوجهی از وظایف پیچیده انسانی را بدون نظارت دائمی انجام دهد، عرضه آن میتواند نقطه عطفی در تاریخ هوش مصنوعی باشد. اما اگر افزایش توانایی با کاهش قابلیت نظارت همراه شود، همین پیشرفت میتواند ضرورت ایجاد سازوکارهای ایمنی و نظارتی جدید را بیش از هر زمان دیگری برجسته کند.
در نهایت، شاید مهمترین پرسش درباره Astra این نباشد که «آیا این مدل AGI است؟»، بلکه این باشد که آیا بشر آماده است به یک سیستم هوش مصنوعی با چنین سطحی از توانایی و استقلال اعتماد کند؟
نظرات کاربران