Поисковик с искусственнім интеллектом Гугла сошел с ума. Он не может отличить сатиру от реальных ответов.
Около двух недель назад Google показала новую функцию AI Overviews, которая должна была улучшить поиск с помощью искусственного интеллекта. Однако первые же дни показали, что система работает неадекватно. Пользователи из США, которые первыми получили к ней доступ, быстро смогли сломать систему своими запросами. В результате ИИ начал выдавать безумные, а иногда и опасные рекомендации, сообщает Акцент со ссылкой на Медузу.
Google хочет научить свой поиск отвечать на сложные вопросы с помощью ИИ
AI Overviews — это краткое резюме перед основными результатами поиска, которое генерирует искусственный интеллект. На презентации представители компании рассказывали, что функция создана в первую очередь для комплексных запросов, в которых нужно учитывать сразу несколько параметров. Например, в сопроводительном ролике поисковик просили составить план питания на неделю для студента, живущего в общежитии, с фокусом на бюджетных блюдах, которые можно готовить в микроволновке.
Оказалось, что искусственный интеллект не может отличить правду от троллинга — и дает максимально сомнительные советы
Быстро выяснилось, что что со сложными запросами новый поиск Google справляется хуже всего. Пользователи, которые опробовали новую функцию, пишут, что в разделе AI Overview можно встретить не только ложные, а иногда и вовсе опасные для жизни ответы. Одна из проблем заключается в том, что ИИ не может отличить серьезную информацию от шуток и троллинга. Один из наиболее популярных примеров — рекомендация добавить клей в пиццу, чтобы сыр держался лучше.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
& SG-r01 (@heavenrend) May 22, 2024
Иногда Google советует пользователям есть камни, ссылаясь на рекомендации геологов из Калифорнийского университета в Беркли (ИИ уточняет, что это жизненно важный источник минералов и витаминов, полезных для пищеварения). Но не больше одного маленького камня в день! На самом деле эту информацию Google взял из заметки The Onion, сайта с вымышленными сатирическими новостями.
Другой вредный совет от ИИ: он «разрешает» курить по 2–3 сигареты в день во время беременности, ссылаясь на некие рекомендации врачей, но не уточняя источник информации (конечно же, это неправда).
На вопрос, как долго можно смотреть на солнце, Google уверенно отвечает: от пяти до 15 минут. А если у вас темная кожа — то почему-то и все 30.
"how long can I stare at the sun" pic.twitter.com/Q22V490f6F
& Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024 Google оправдывается тем, что запросы «очень необычные». Но именно для них и создавали AI Overview
В Google уже отреагировали на претензии пользователей. Представительница компании Меган Фарнсворт в своем комментарии для The Verge отметила, что подобные ошибки возникают из-за «очень необычных запросов и не отражают опыт большинства людей». Она добавила, что сотрудники компании не смогли воспроизвести некоторые из упомянутых запросов, а часть скриншотов оказалась подделкой.
Тем не менее компания уже приняла меры и использует упомянутые примеры для того, чтобы дальше совершенствовать свой продукт. Также разработчики отключили AI Overview (судя по всему, вручную) для определенных запросов. Пользователи соцсетей действительно заметили, что некоторые ответы ИИ уже невозможно воспроизвести.
Підписуйтесь на Акцент в 
(adsbygoogle = window.adsbygoogle || []).push({});
Источник: https://akzent.zp.ua/novye-rekomendatsii-gugl-dlya-uluchsheniya-pishhevareniya-est-kamni-v-pitstsu-dobavit-klej/
Мы в Telegram, наш Telegram bot — @zpua_bot, Мы в Viber, Мы на Facebook
