Президент Дональд Трамп объявил о запуске America.gov — ИИ-чат-бота, призванного стать единой точкой доступа к информации о государственных услугах и правилах. По словам президента, инструмент должен избавить граждан от необходимости самостоятельно искать нужные данные среди десятков тысяч правительственных сайтов. Google подтвердила свое участие в проекте в качестве партнера, предоставив для работы чат-бота свою языковую модель Gemini. На данный момент остается неясным, привлекались ли к разработке другие компании. Эксперты выражают опасения относительно надежности системы, напоминая, что большие языковые модели склонны к галлюцинациям. Ошибки в работе чат-бота могут привести к серьезным последствиям для пользователей, например, при подаче налоговых деклараций, оформлении виз или получении социальных пособий. В качестве примера рисков приводится недавний инцидент, когда военные США едва не начали операцию из-за ложных данных, сгенерированных ИИ.