ИИ Google «галлюцинирует» о крушении самолета в Индии и меняет модель самолета
Google Overviews, новая функция искусственного интеллекта, встроенная в поисковую систему , допустила серьезную ошибку: после авиакатастрофы рейса AI171 в Индии искусственный интеллект перепутал модель самолета, совершившего крушение, перепутав упоминания Boeing 787 с Airbus A330 и отобразив информацию так, как будто она была полностью достоверной.
Этот тип ошибок известен как «галлюцинации», явление, уникальное для генеративных систем ИИ, которое включает изобретение данных или ответов, которые кажутся правдой. В отличие от традиционной поисковой системы, которая ссылается на источники, такие инструменты, как Google Overviews, пытаются «обобщить» веб и иногда неправильно объединяют контент, вызывая ошибки, которые могут быть критическими в деликатных контекстах, таких как трагедия.
Что случилось с Google ОбзорамиВ прошлый четверг в Индии произошла серьезная авиакатастрофа, где самолет Air India Boeing 787 разбился вскоре после взлета. Погибло более 260 человек , в том числе несколько на земле. Это трагедия, которая имела всемирный резонанс, и, как это часто бывает, многие пользователи начали искать в Интернете информацию, чтобы узнать, что произошло и какой тип самолета был задействован. Но здесь возникла проблема с искусственным интеллектом Google.
Его инструмент AI Overviews , который генерирует автоматические ответы на основе результатов поиска, начал выдавать неверную информацию. Некоторые люди заметили, что когда они искали информацию о катастрофе, ИИ уверенно говорил, что самолет был Airbus A330 , но в других случаях он говорил, что это был Boeing 787 , а иногда он смешивал оба варианта. Это был настоящий беспорядок.
Почему искусственный интеллект Google неправильно распознал модель самолета, потерпевшего крушение в ИндииСогласно ArsTechnica , этот ИИ работает, обобщая то, что он находит в интернете , но он не всегда полностью понимает то, что читает. Во многих статьях о катастрофе упоминается Airbus как конкурент Boeing. Это могло сбить его с толку, что привело к тому, что он сказал что-то неправильно, хотя выглядел очень уверенно.
Google высказался, пояснив, что его ИИ может ошибаться , и что он добавляет предупреждение в конце каждого сгенерированного резюме, но проблема в том, что это предупреждение легко игнорировать . В этом случае ошибка могла расстроить Airbus , поскольку его имя было связано с аварией, которая не имела никакого отношения к его самолетам.
Компания Mountain View подтвердила, что они исключили этот неверный ответ , но это оставляет нас с выводом, связанным с ИИ: хотя эти типы инструментов могут быть полезны, вы не всегда можете полностью доверять тому, что они говорят , поэтому вам следует тщательно проверять информацию.
20minutos
