Пошуковик із штучним інтелектом гугла збожеволів. Він не може відрізнити сатиру від реальних відповідей
Близько двох тижнів тому Google показала нову функцію AI Overviews, яка мала поліпшити пошук за допомогою штучного інтелекту. Проте перші дні показали, що система працює неадекватно. Користувачі зі США, які першими отримали доступ до неї, швидко змогли зламати систему своїми запитами. В результаті ШІ почав видавати шалені, а іноді й небезпечні рекомендації, розповідає Акцент з посиланням на Медузу.
Google хоче навчити свій пошук відповідати на складні питання за допомогою ІІ
AI Overviews – це коротке резюме перед основними результатами пошуку, що генерує штучний інтелект. На презентації представники компанії розповідали, що функція створена насамперед для комплексних запитів, у яких потрібно враховувати кілька параметрів. Наприклад, у супровідному ролику пошуковик просили скласти план харчування на тиждень для студента, який живе у гуртожитку, з фокусом на бюджетних стравах, які можна готувати у мікрохвильовій печі.
Виявилося, що штучний інтелект не може відрізнити правду від тролінгу і дає максимально сумнівні поради.
Швидко з’ясувалося, що зі складними запитами новий пошук Google справляється найгірше. Користувачі, які випробували нову функцію, пишуть, що у розділі AI Overview можна зустріти не тільки помилкові, а іноді й зовсім небезпечні для життя відповіді. Одна з проблем полягає в тому, що ІІ не може відрізнити серйозну інформацію від жартів та тролінгу. Один із найпопулярніших прикладів — рекомендація додати клей у піцу, щоб сир тримався краще.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
& SG-r01 (@heavenrend) May 22, 2024
Іноді Google радить користувачам їсти каміння, посилаючись на рекомендації геологів з Каліфорнійського університету в Берклі (ІІ уточнює, що це життєво важливе джерело мінералів та вітамінів, корисних для травлення). Але не більше одного маленького каменю на день! Насправді цю інформацію Google взяв із нотатки The Onion, сайту із вигаданими сатиричними новинами.
Штучний інтелект Гугла рекомендує їсти каміння
Інша шкідлива порада від ІІ: він «дозволяє» курити по 2-3 сигарети на день під час вагітності, посилаючись на деякі рекомендації лікарів, але не уточнюючи джерело інформації (звичайно, це неправда).
На питання, як довго можна дивитися на сонце, Google упевнено відповідає: від п’яти до 15 хвилин. А якщо у вас темна шкіра, то чомусь і всі 30.
"how long can I stare at the sun" pic.twitter.com/Q22V490f6F
& Jeremiah Johnson 🌐 (@JeremiahDJohns) Май 26 «https://platform.twitter.com/widgets.js» charset=»utf-8″>
Google виправдовується тим, що запити дуже незвичайні. Але саме для них і створювали AI Overview
У Google вже відреагували на претензії користувачів. Представниця компанії Меган Фарнсворт у своєму коментарі для The Verge зазначила, що подібні помилки виникають через «дуже незвичайні запити та не відображають досвід більшості людей». Вона додала, що співробітники компанії не змогли відтворити деякі зі згаданих запитів, а частина скріншотів виявилася підробкою.
Тим не менш, компанія вже вжила заходів і використовує згадані приклади для того, щоб далі вдосконалювати свій продукт. Також розробники відключили AI Overview (зважаючи на все, вручну) для певних запитів. Користувачі соцмереж дійсно помітили, що деякі відповіді ІІ вже неможливо відтворити.
Підписуйтесь на Акцент в 
(adsbygoogle = window.adsbygoogle || []).push({});
Источник: https://akzent.zp.ua/novi-rekomendatsiyi-gugl-dlya-pokrashhennya-travlennya-yisti-kaminnya-v-pitsu-dodati-klej-foto/
Мы в Telegram, наш Telegram bot — @zpua_bot, Мы в Viber, Мы на Facebook
