Google удалила модель Gemma из своего AI Studio после того, как сенатор-республиканка Марша Блэкберн обвинила её в клевете. Модель выдумала целую историю про обвинения в сексуальных домогательствах во время кампании по выборам в сенат штата в 1987 году с участием несуществующего полицейского, хотя кампания Блэкберн проходила в 1998-м. Ссылки на якобы подтверждающие статьи вели на страницы с ошибками и несвязанные материалы.

Компания заявила, что AI Studio “никогда не был задуман как потребительский инструмент”, хотя именно там непрофессионалы и получили доступ к модели. Gemma теперь доступна только через API. Вице-президент Google на слушаниях объяснял подобные случаи как “известную проблему галлюцинаций”, над которой компания работает. Блэкберн возразила, что это не безобидная галлюцинация, а клевета.

Вообще, ничего удивительного — Gemma реально маленькая модель, которую можно даже запустить локально. При этом доступность её не назовешь широкой — либо через AI Studio, либо локально, либо через API, в общем, обычные люди так не ходят. Поэтому история напоминает еще и анекдот иск в суд, по поводу того, что пара в доме напротив занимается непотребствами и оскорбляет мораль истца. “Так у них же шторы плотно задернуты! — Да, а вы на шкаф залезьте и чуть вбок посмотрите, всё и видно”.