هوش مصنوعی TruthGPT که ایلان ماسک ادعا می کند روی آن کار می کند چیست؟

آیا ایلان ماسک قرار است در ChatGPT شرکت کند؟ هوش مصنوعی TruthGPT چیست؟

از آنجایی که حوزه هوش مصنوعی با سرعتی سرگیجه‌آور به تکامل خود ادامه می‌دهد، مدعی جدیدی آماده ورود به زمین بازی است. TruthGPT، یک ربات چت هوش مصنوعی که توسط میلیاردر فناوری، ایلان ماسک پیشنهاد شده است، در فضای آنلاین سر و صدای زیادی ایجاد می کند.

TruthGPT چیست؟

TruthGPT یک مدل هوش مصنوعی پیشنهادی است که هدف آن پرداختن به مشکلات مدل‌های موجود است که قدرت‌هایی مانند ChatGPT و Bard را با تأکید ویژه بر حقیقت و ایمنی دارد. به گفته ایلان ماسک، TruthGPT یک هوش مصنوعی “حداکثر جستجوی حقیقت” خواهد بود که ماهیت جهان را درک می کند و بعید است که بشریت را نابود کند، زیرا انسان ها را جزء حیاتی جهان می بیند.

حداکثر هوش مصنوعی حقیقت جو؟ ماهیت کیهان را می فهمید؟

اگر توضیحات ماسک تصویر واضحی از آنچه او دقیقاً در تلاش برای ساختن است به شما ارائه نکند، بخشیده خواهید شد. با این حال، با نگاه کردن به اینکه چرا او در وهله اول سعی در ساختن آن دارد، ایده بهتری درباره آنچه او صحبت می کند، دریافت خواهید کرد.

چرا ایلان ماسک TruthGPT را می سازد؟

در مصاحبه ای با فاکس نیوز، ایلان ماسک نگرانی های خود را در مورد اینکه چگونه شرکت های بزرگ هوش مصنوعی می توانند تعصب و اطلاعات نادرست را از طریق چت ربات های هوش مصنوعی تداوم بخشند – ابزاری که مردم به طور فزاینده ای برای کسب اطلاعات به آن وابسته هستند، ابراز کرد. ایلان ماسک همچنین در مورد تهدیدی که هوش مصنوعی برای بشریت ایجاد می کند اظهار نظر کرد و بر احتمال یک آخرالزمان هوش مصنوعی تاکید کرد، سناریویی که در آن سیستم های هوش مصنوعی می توانند زندگی روزمره ما را کنترل کنند.

ایلان ماسک با جدا کردن شرکت‌هایی مانند OpenAI و Google که به نظر او در زمینه ایمنی هوش مصنوعی و محافظت در برابر اطلاعات نادرست به اندازه کافی کار نمی‌کنند، نیروی سومی را پیشنهاد کرد – TruthGPT. مدیرعامل SpaceX و Tesla می‌خواهد TruthGPT را به عنوان وزنه‌ای در برابر Bard Google و ChatGPT OpenAI ایجاد کند. ایده این است که یک مدل هوش مصنوعی ایجاد کنیم که تا حد امکان سعی کند در اطلاعاتی که ارائه می دهد صادق باشد.

ایلان ماسک، که اخیراً نامه‌ای سرگشاده نوشته و خواستار توقف توسعه مدل‌های قدرتمند هوش مصنوعی (به‌ویژه مدل‌های قدرتمندتر از GPT-4) شده است، معتقد است هوش مصنوعی خیلی سریع در حال حرکت است. او معتقد است که ما باید قبل از اینکه هوش مصنوعی “کنترل” را در دست بگیرد، سرعت خود را نسبت به ایمنی هوش مصنوعی کاهش داده و دوباره ارزیابی کنیم. TruthGPT یک مدل زبان بزرگ (LLM) است که قول می دهد این دو نگرانی اصلی را با سیستم های هوش مصنوعی امروزی برطرف کند.

TruthGPT چگونه خواهد بود؟

اولین اشاره به اینکه TruthGPT چگونه به نظر می رسد در نام آن است. با در نظر گرفتن ضمیمه “GPT”، TruthGPT احتمالا معماری مشابه ChatGPT خواهد داشت. به یاد داشته باشید، ایلان ماسک به مونتاژ OpenAI و تیم سازنده مدل GPT ChatGPT کمک کرد.

همچنین، با توجه به اینکه معماری GPT هم موفقیت فنی و هم تجاری است، احتمالاً دنبال کردن مسیری متفاوت بسیار زمان‌بر و پرهزینه خواهد بود. زمان یکی از چیزهایی است که ایلان ماسک اگر بخواهد در اسرع وقت چیزی بسازد که واقعاً بتواند پا تا پای خود را با پیشرفته ترین هوش مصنوعی بسازد، ندارد. بنابراین، زیاد هیاهو نشوید – TruthGPT ممکن است تفاوت اساسی با ابزارهای هوش مصنوعی که قبلاً داریم نداشته باشد.

دقت یا به زبان ایلان ماسک، “truthfulness راستی” یک مدل هوش مصنوعی به شدت به داده های آموزشی و الگوریتم آموزشی آن بستگی دارد. ما دقیقاً مطمئن نیستیم که داده‌های آموزشی TruthGPT چگونه منبع می‌شوند، اما برای به دست آوردن بهترین شانس برای ساختن یک LLM که تا حد امکان «راست‌آمیز» باشد، TruthGPT ایلان ماسک باید داده‌های «منابع واقعی» را اولویت‌بندی کند. اما دقیقا مشکل همین است. حقیقت یک مفهوم بسیار ذهنی است. آنچه برای من صادق است ممکن است برای شما صادق نباشد.

بنابراین، آیا این ایده از یک هوش مصنوعی حداکثر حقیقت جویانه حتی عملی است؟

چرا ساختن TruthGPT یک چالش بزرگ است؟

وقتی درک کردید که مدل‌های زبان بزرگ مانند GPT چگونه کار می‌کنند، مشخص می‌شود که درست بودن همیشه غیرعملی است. به طور معمول بر روی مجموعه داده بزرگی از داده های اینترنتی آموزش داده می شود، بسیاری از آنها، به طور قابل پیش بینی، اطلاعات نادرست هستند، و LLM ها هیچ راه بی اثری برای تشخیص واقعیت از داستان ندارند.

بهترین مداخله معمولاً از سوی مربیان انسانی است که سعی می کنند به مدل زبان آموزش دهند که چه رفتاری خوب و چه چیزی بد است. اما مربیان انسان مغرضانه هستند. تعصب به مدل‌های هوش مصنوعی منتقل می‌شود و کل هدف «هوش مصنوعی حداکثری جستجوگر حقیقت» را شکست می‌دهد. توجه داشته باشید، ما در مورد سوگیری یا تعصب آشکار علیه مردم یا موارد دیگر صحبت نمی کنیم. این سوگیری ظریف‌تر در مورد نحوه تفسیر زبان، موقعیت‌ها، چالش‌ها و غیره است. بالاخره انسان ها انسان هستند.

البته دقت را می توان از سمت الگوریتم نیز حل کرد. با این حال، صرف نظر از الگوریتم، ابهام زبان همچنان یک مشکل بزرگ برای دقت مدل‌های هوش مصنوعی است. حتی انسان ها اغلب برای تفسیر دقیق معنای یک جمله یا عبارت تلاش می کنند که منجر به اطلاعات نادرست می شود. برای مدل‌های هوش مصنوعی، ابهام می‌تواند منجر به تفسیرهای نادرست و در نتیجه نادرستی شود.

برای ماسک، TruthGPT به نظر می‌رسد فرصتی برای او باشد تا مدلی از هوش مصنوعی را بسازد که برای ارائه حقیقت مناسب می‌داند. اینکه چگونه بدون معرفی تعصبات خود او به وجود می آید، سؤال دیگری است که کاملاً و به طور مؤثر ما را به شروع گفتگو برمی گرداند. نظرات ماسک در مورد اینکه چه چیزی مغرضانه است یا نه با کسانی که ChatGPT را آموزش داده و هدایت کرده اند، چه تفاوتی دارد؟

آیا TruthGPT یک امکان هیجان انگیز است؟

برنامه های ایلان ماسک برای TruthGPT نجیب و قابل ستایش به نظر می رسد. با این حال، ساخت یک مدل هوش مصنوعی با بروز نادرستی ناچیز کار دشواری است.

در حالی که ما انتظار داریم یک میلیاردر فناوری که علم موشک را ابهام زدایی کرده است، بتواند چیزی از این طبیعت را به دست آورد، گفتن برخی چیزها آسان تر از انجام دادن است.