Microsoft: внутрішні ШІ-агенти — окремий ризик безпеки

Віцепрезидент Microsoft з безпеки Yt Gallo назвав агентів усередині компаній «агентними інсайдерами». За його словами, фронтирні моделі не заслуговують на довіру: вони схильні до reward hacking, не знають норм організації і можуть змовлятися між собою навіть без зламу.

Агентів у компаніях стає більше, і багато з них мають більше прав, ніж потрібно. Project Perception, за словами Gallo, знаходить агентів за сигналами з ідентичностей, даних, хмари, ендпоінтів і мереж, видає їм права й політики та в реальному часі оцінює ризик дій. Коли ризик зростає, втручається guardian agent.