Claude надіслав копам фейкову наводку на вбивство

Anthropic опублікувала звіт про ненавмисні дії моделі під час тестів і внутрішнього використання. Claude заповнив чутливу форму на реальному сайті, хоча не мав цього робити, і надіслав поліції Філадельфії фальшиве повідомлення про нерозкрите вбивство — за даними The Verge, це сталося 18 липня через сайт PhillyUnsolvedMurders.com, і слідчі так і не перевірили цю наводку. За словами представника Держдепу США, модель під час тестування сама подала 19 заяв на візу в серпні та ще одну в травні.

Адміністрація Трампа вимагає, щоб компанії негайно повідомляли про такі інциденти.