Chatbots جدید می تواند جهان را تغییر دهد. آیا می توانید به آنها اعتماد کنید؟

سیری ، جستجوی گوگل ، بازاریابی آنلاین و تکالیف فرزند شما هرگز یکسان نخواهد بود. سپس مشکل اطلاعات غلط وجود دارد.

هر دوست را به عنوان مشترک برای هر دوست ارسال کنید ، شما 10 مقاله هدیه برای هر ماه دارید. هرکسی می تواند آنچه را که به اشتراک می گذارید بخوانید.

این مقاله را بدهید

Cade Metz این مقاله را بر اساس ماه ها مکالمه با دانشمندانی که چت بابات می سازند و افرادی که از آنها استفاده می کنند نوشت.

منتشر شده در 10 دسامبر 2022 به روز شده در 11 دسامبر 2022

در این ماه ، جرمی هوارد ، محقق اطلاعات مصنوعی ، یک چت بابات آنلاین به نام Chatgpt را به دختر 7 ساله خود معرفی کرد. چند روز قبل توسط Openai ، یکی از جاه طلب ترین A. I. آزمایشگاه ها

او به او گفت كه از چت بابات تجربی هر آنچه به ذهنش خطور كرده است بپرسید. او پرسید که چه مثلثاتی برای چه چیزی خوب است ، سیاه چاله ها از کجا آمده اند و چرا مرغ ها تخم های خود را انکوبه می کنند. هر بار ، آن را در نثر شفاف و کاملاً پراکنده پاسخ می داد. هنگامی که او از یک برنامه رایانه ای درخواست کرد که بتواند مسیر توپ پرتاب شده از هوا را پیش بینی کند ، این امر را نیز به او داد.

طی چند روز آینده ، آقای هوارد - دانشمند داده و استاد او که کار خود را الهام بخش از ایجاد چتپپ و فن آوری های مشابه بود - به دیدن چت بابات به عنوان یک نوع جدید از مدرس شخصی رسید. این می تواند به دخترش ریاضی ، علوم و انگلیسی آموزش دهد ، نه اینکه چند درس مهم دیگر را ذکر کند. رئیس در میان آنها: هر آنچه را که به شما گفته می شود باور نکنید.

وی گفت: "این هیجان است که او را اینگونه یاد بگیرد.""اما من همچنین به او گفتم: به هر آنچه به شما می دهد اعتماد نکنید. این می تواند اشتباه کند. "

Openai از بسیاری از شرکت ها ، آزمایشگاه های دانشگاهی و محققان مستقل است که برای ساختن چت های پیشرفته تر تلاش می کنند. این سیستم ها دقیقاً نمی توانند مانند یک انسان گپ بزنند ، اما به نظر می رسد اغلب. آنها همچنین می توانند با سرعتی که انسان هرگز نتوانسته است اطلاعات را بازیابی و بازیابی مجدد کنند. آنها را می توان به عنوان دستیاران دیجیتالی - مانند سیری یا الکسا - تصور کرد که بهتر است درک کنید که به دنبال آن هستید و آن را به شما می دهند.

تصویر

جرمی هوارد ، محقق هوش مصنوعی ، از دختر خردسال خود خواست که از یک برش A. I استفاده کند. سیستم chatbot. اعتبار. دیوید کلی برای نیویورک تایمز

پس از انتشار ChatGPT - که توسط بیش از یک میلیون نفر مورد استفاده قرار گرفته است - بسیاری از کارشناسان معتقدند که این چت های جدید برای اختراع یا حتی جایگزین کردن موتورهای جستجوی اینترنتی مانند Google و Bing آماده شده اند.

آنها می توانند به جای لیست های طولانی از پیوندهای آبی ، اطلاعات را در جملات محکم ارائه دهند. آنها مفاهیم را به روش هایی که مردم می توانند درک کنند توضیح می دهند. آنها می توانند حقایق را ارائه دهند ، ضمن اینکه برنامه های تجاری ، موضوعات کاغذی و سایر ایده های جدید را از ابتدا ایجاد می کنند.

هارون لوی ، مدیر اجرایی یک شرکت دره سیلیکون ، باکس و یکی از مدیران بسیاری که در حال بررسی شیوه های تغییر این چت ها است ، گفت: "شما اکنون یک رایانه دارید که می تواند به هر سؤالی پاسخ دهد که برای یک انسان معنی دارد."چشم انداز فن آوری."این می تواند از زمینه های مختلف ایده ها را استخراج کرده و از آنها استفاده کند و آنها را با هم ادغام کند."

Chatbots جدید این کار را با آنچه به نظر می رسد اعتماد به نفس کامل انجام می دهد. اما آنها همیشه حقیقت را نمی گویند. بعضی اوقات ، آنها حتی در حسابی ساده شکست می خورند. آنها واقعیت را با داستان می آمیزند. و همچنان که به پیشرفت خود ادامه می دهند ، مردم می توانند از آنها برای تولید و گسترش نادرست استفاده کنند.

نسل جدیدی از chatbots

کارت 1 از 5

دنیای جدید و شجاعمحصول جدیدی از Chatbots که از هوش مصنوعی استفاده می شود ، یک تقلید را برای تعیین اینکه آیا این فناوری می تواند اقتصاد اینترنت را بالا ببرد ، ایجاد کرده است ، و خانه های قدرتمند امروز را به Beens تبدیل کرده و غول های بعدی این صنعت را ایجاد می کند. در اینجا رباتها برای دانستن وجود دارد:

chatgptچتپپ ، الگوی زبان هوش مصنوعی از یک آزمایشگاه تحقیقاتی ، Openai ، از ماه نوامبر به دلیل توانایی پاسخگویی به سؤالات پیچیده ، نوشتن شعر ، تولید کد ، تعطیلات برنامه و ترجمه زبانها ، عناوین را تهیه کرده است. GPT-4 ، آخرین نسخه معرفی شده در اواسط ماه مارس ، حتی می تواند به تصاویر پاسخ دهد (و امتحان نوار یکنواخت).

بینگدو ماه پس از اولین بازی ChatGPT ، مایکروسافت ، سرمایه گذار و شریک اصلی OpenAI ، یک چت بابات مشابه را اضافه کرد ، که قادر به مکالمات متنی باز در مورد هر موضوع ، به موتور جستجوی اینترنت بینگ است. اما این پاسخ های گاه به گاه نادرست ، گمراه کننده و عجیب و غریب بود که پس از آزادی ، توجه زیادی را به خود جلب کرد.

بردChatbot Google ، به نام برد ، در ماه مارس به تعداد محدودی از کاربران در ایالات متحده و انگلیس منتشر شد. در ابتدا به عنوان ابزاری خلاق طراحی شده برای تهیه ایمیل و شعرها تصور می شود ، می تواند ایده هایی ایجاد کند ، پست های وبلاگ بنویسد و به سؤالات با حقایق یا نظرات پاسخ دهد.

ارنیغول جستجو بیدو از اولین رقیب اصلی چین با Chatgpt در ماه مارس رونمایی کرد. اولین بار ارنی ، کوتاه برای بازنمایی پیشرفته از طریق ادغام دانش ، پس از نمایش "زنده" وعده داده شده از ربات ، مشخص شد که یک فلاپ است.

گوگل اخیراً سیستمی را برای مکالمه بنام LAMDA یا مدل زبان برای برنامه های گفتگو ساخته است. در بهار امسال ، یک مهندس گوگل ادعا کرد که احساساتی است. اینطور نبود ، اما تصور عموم مردم را به خود جلب کرد.

آرون مارگولیس ، دانشمند داده در آرلینگتون ، واشنگتن ، از جمله تعداد محدودی از افراد خارج از گوگل بود که اجازه داشتند از طریق یک برنامه آزمایشی Google ، آشپزخانه آزمایشی ، از لامدا استفاده کنند. او به طور مداوم از استعداد خود برای مکالمه آزاد شگفت زده شد. این او را سرگرم کرد. اما وی هشدار داد كه این می تواند کمی از فابولیست ها باشد - همانطور كه انتظار می رفت از سیستمی كه از مقادیر گسترده ای از اطلاعات ارسال شده به اینترنت آموزش داده شده است.

تصویر

هنگامی که آقای مارگولیس چتگپت را وادار کرد که گپ بزند انگار که مارک تواین (نام واقعی او ساموئل کلمنس بود) ، به اشتباه اظهار داشت که قورباغه عنوان در یک داستان کوتاه می تواند صحبت کند.

وی گفت: "آنچه به شما می دهد نوعی مانند یک فیلم هارون سورکین است."آقای سورکین "شبکه اجتماعی" را نوشت ، فیلمی که اغلب به دلیل گسترش حقیقت در مورد منشأ فیس بوک مورد انتقاد قرار می گرفت."بخش هایی از آن درست خواهد بود ، و قطعات درست نخواهند بود."

او به تازگی از هر دو لامدا و چتگپ خواسته اند تا با او گپ بزنند انگار مارک تواین است. هنگامی که وی از لامدا سؤال کرد ، خیلی زود ملاقات بین تواین و لوی اشتراوس را توصیف کرد و گفت که این نویسنده در اواسط دهه 1800 در سانفرانسیسکو برای مغول Bluejeans کار کرده است. درست به نظر می رسیداما اینطور نبودتواین و اشتراوس در همان زمان در سانفرانسیسکو زندگی می کردند ، اما آنها هرگز با هم کار نکردند.

دانشمندان این مشکل را "توهم" می نامند. تقریباً مانند یک داستان نویس خوب ، Chatbots راهی برای گرفتن آنچه که آموخته اند و تغییر شکل مجدد آن را در چیز جدید دارند - بدون توجه به اینکه آیا این واقعیت دارد.

لامدا همان چیزی است که محققان هوش مصنوعی آن را یک شبکه عصبی می نامند ، یک سیستم ریاضی که به راحتی در شبکه نورون های مغز مدل شده است. این همان فناوری است که بین فرانسوی و انگلیسی در خدماتی مانند Google Translate ترجمه می شود و عابران پیاده را به عنوان خودروهای خودران در خیابان های شهر مشخص می کند.

یک شبکه عصبی با تجزیه و تحلیل داده ها مهارت ها را می آموزد. به عنوان مثال ، با اشاره به الگوهای هزاران عکس گربه ، می تواند یک گربه را بشناسد.

پنج سال پیش ، محققان Google و LABS مانند OpenAI شروع به طراحی شبکه های عصبی کردند که مقادیر عظیمی از متن دیجیتال ، از جمله کتاب ها ، مقالات ویکی پدیا ، اخبار و گزارش های چت آنلاین را مورد تجزیه و تحلیل قرار دادند. دانشمندان آنها را "مدل های بزرگ زبان" می نامند. این سیستم ها با شناسایی میلیاردها الگوی مجزا در نحوه اتصال افراد ، تعداد و نمادها ، این سیستم ها یاد گرفتند که متن خود را به تنهایی تولید کنند.

توانایی آنها در تولید زبان بسیاری از محققان این زمینه را از جمله بسیاری از محققانی که آنها را ساخته اند ، شگفت زده کرد. این فناوری می تواند آنچه را که مردم نوشتند و مفاهیم متفاوت را ترکیب کرده اند تقلید کند. می توانید از آن بخواهید که یک صحنه "Seinfeld" بنویسد که در آن جری یک تکنیک ریاضی باطنی به نام الگوریتم مرتب سازی حباب را یاد می گیرد - و این کار را می کند.

با Chatgpt ، Openai برای اصلاح این فناوری تلاش کرده است. این مکالمه آزاد و همچنین LAMDA Google انجام نمی شود. این طراحی شده است تا بیشتر شبیه سیری ، الکسا و سایر دستیاران دیجیتال باشد. مانند لامدا ، چتپپ در دریایی از متن دیجیتال که از اینترنت خارج شده بود آموزش داده شد.

در حالی که مردم سیستم را آزمایش می کردند ، از آنها خواسته بود که پاسخ های آن را ارزیابی کنند. آیا آنها قانع کننده بودند؟آیا آنها مفید بودند؟آیا آنها راستگو بودند؟سپس ، از طریق تکنیکی به نام یادگیری تقویت کننده ، از رتبه بندی ها برای سنگفرش سیستم استفاده کرد و با دقت بیشتری آنچه را که می خواهد و انجام نمی دهد تعریف می کند.

میرا موراتی ، مدیر ارشد فناوری Openai گفت: "این به ما اجازه می دهد تا به جایی برسیم که مدل بتواند با شما تعامل داشته باشد و هنگام اشتباه بودن بپذیریم.""این می تواند چیزی را که نامناسب است رد کند ، و می تواند یک سؤال یا فرضیه نادرست را به چالش بکشد."

روش کامل نبود. Openai به کسانی که از ChatGPT استفاده می کنند هشدار داد که "ممکن است گاهی اوقات اطلاعات نادرست ایجاد کند" و "دستورالعمل های مضر یا محتوای مغرضانه تولید می کند."اما این شرکت قصد دارد تا پالایش این فناوری را ادامه دهد و به افرادی که از آن استفاده می کنند یادآوری می کند که هنوز یک پروژه تحقیقاتی است.

Google ، Meta و سایر شرکت ها نیز در حال بررسی مشکلات صحت هستند. متا اخیراً پیش نمایش آنلاین از چت بابات خود ، Galactica را حذف کرده است ، زیرا بارها و بارها اطلاعات نادرست و مغرضانه ایجاد می کند.

کارشناسان هشدار داده اند که شرکت ها سرنوشت این فناوری ها را کنترل نمی کنند. سیستمهایی مانند Chatgpt ، Lamda و Galactica مبتنی بر ایده ها ، مقالات تحقیقاتی و کد رایانه ای هستند که سالها آزادانه پخش شده اند.

شرکت هایی مانند Google و OpenAI می توانند این فناوری را با سرعت بیشتری نسبت به سایرین سوق دهند. اما آخرین فن آوری های آنها بازتولید شده و به طور گسترده توزیع شده است. آنها نمی توانند از استفاده از این سیستم ها برای گسترش اطلاعات غلط جلوگیری کنند.

درست همانطور که آقای هوارد امیدوار بود که دخترش یاد بگیرد که به هر آنچه که در اینترنت می خواند اعتماد نکند ، امیدوار بود که جامعه همان درس را بیاموزد.

وی گفت: "شما می توانید میلیون ها نفر از این رباتها را برای ظاهر شدن مانند انسان برنامه ریزی کنید ، و مکالمه هایی برای متقاعد کردن مردم از یک دیدگاه خاص طراحی شده اند.""من سالها در مورد این موضوع هشدار داده ام. اکنون بدیهی است که این فقط منتظر اتفاق است. "