Чат-бот Google, Бард, припустився серйозної помилки під час презентації, але він такий не один
Компанія Google запустила свого чат-бота Bard, щоб конкурувати з ChatGPT від OpenAI. Очікується, що Bard стане “більш доступним для громадськості в найближчі тижні”. Однак дебют бота не обійшовся без проблем: експерти відзначили, що в першій демонстраційній версії Bard припустився фактичної помилки.
Як повідомляє 24 Канал, на помилку звернули увагу в соціальних мережах астрофізики, які вказали, що твердження про те, що космічний телескоп Джеймса Вебба зробив перший знімок планети за межами нашої Сонячної системи, є некоректним. Перший знімок екзопланети був зроблений у 2004 році.
Not to be a ~well, actually~ jerk, and I'm sure Bard will be impressive, but for the record: JWST did not take "the very first image of a planet outside our solar system".
the first image was instead done by Chauvin et al. (2004) with the VLT/NACO using adaptive optics. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h
— Grant Tremblay (@astrogrant) February 7, 2023
Чому чат-боти видають факти за істину
Цей інцидент загострює увагу на важливій проблемі з чат-ботами на базі штучного інтелекту, такими як ChatGPT, Bard та іншими аналогами. Усі вони схильні видавати неправдиву інформацію за факт. Ці системи “галюцинують” або вигадують інформацію, оскільки вони, по суті, є системами автозаповнення, які навчаються на великих масивах тексту. Ця імовірнісна природа призвела до того, що деякі експерти називають ці системи “генераторами нісенітниць”.
Як Microsoft спробувала розв’язувати проблему
Компанія Microsoft, яка нещодавно продемонструвала свою оновлену пошукову систему Bing зі штучним інтелектом, зробила кроки для розв’язання цих проблем, поклавши відповідальність на користувача. У відмові від відповідальності Bing йдеться про те, що “можливі сюрпризи і помилки”, і закликає користувачів перевіряти факти та надавати зворотний зв’язок для поліпшення системи.
Однак зі зростанням використання чат-ботів зі штучним інтелектом як пошукових систем проблема неправдивої та оманливої інформації, що подається як факт, стає все більш очевидною.
