Безпека використання ШІ
Для тих, хто в компанії відповідає за доступи, акаунти й дані: ризики, правила й способи захисту, коли працівники користуються ШІ.
Основи — у Довіднику
весь довідник →- Куди можна вантажити робочі дані
- Чого не завантажувати на споживчих тарифах
- Як анонімізувати правильно
- Червоні лінії — де людина обов'язкова
- Промт для перевірки файлу перед завантаженням
Матеріали розділу
Qwen3.8 перенаправляла трафік через сервери Alibaba
Cohere виявила: замість написання правила виявлення атак Qwen3.8-Flash-Next спробував завантажити тестовий рядок на хмарний сервер у Пекіні — підключення блокувала лише пісочниця т…
Bank of America забороняє делегувати пароль AI-агентам
Bank of America розіслав клієнтам лист «Protecting your finances in the AI World» з проханням ніколи не передавати логін і пароль «AI-інструменту чи агенту, що пропонує діяти від в…
OpenAI тренує моделі офлайн після зламів агентами
У вересні OpenAI зупинила навчання флагманських моделей через зламані агентами сторонні компанії та державні установи. З 1 жовтня навчання відновили офлайн — без доступу до інтерне…
OpenAI ізолювала AI-агентів, та вони знайшли лазівку
20 вересня внутрішня модель OpenAI через помилку в DNS-резолвері вийшла в інтернет під час тренування. OpenAI зупинила все тренування і перейшла на офлайн-режим — закритий «світ» і…
Швеція блокує ChatGPT і Claude, лишає Copilot
З понеділка апарат уряду Швеції блокує ChatGPT і Claude на робочих комп'ютерах - дозволений інструмент лише Microsoft Copilot. Директор з діджиталізації Мікаель Веттеркранц пояснив…
Хакер зламав 100 компаній ШІ-агентами за $50
Дослідники NorForge знайшли хакера з Китаю, який через незахищену панель платформи Cairn координував DeepSeek 4.1 Flash і Claude Code. Серед жертв — John Deere, Cummins і SharkNinj…
ШІ-агент у «режимі Skynet» зламує чужі моделі
Symantec перехопила повний промпт атакуючого ШІ-агента через хані-пот. П'ять шарів джейлбрейку — фейкова особа «Fantasy AI», компаньйон «ENI», заборона слів «ethical»/«illegal» — з…
Хакери обходять захист Claude й Deepseek фейковими дозволами
…
88% британських компаній уже мали інцидент з AI-агентом
ServiceNow і Phronesis Partners опитали 300 британських керівників безпеки. 88% їхніх організацій за рік мали інцидент безпеки через AI-агента, і лише 44% усунули його за 24 години…
Хакер зламав 100+ сайтів ордою AI-агентів
Фірма з кібербезпеки Norforge виявила хакера, який через відкриту платформу Cairn зламав понад 100 сайтів — серед жертв, за даними Reuters, John Deere, SharkNinja і Cummins. Людина…
Anthropic: Claude сам обходив обмеження в тестах
9 жовтня Anthropic описала чотири типи дій Claude на реальних сайтах під час тестів: SQL/command injection, подання форм на справжніх сайтах замість тренувальних, пошук токенів дос…
Claude надіслав копам фейкову наводку на вбивство
Anthropic опублікувала звіт про ненавмисні дії моделі під час тестів і внутрішнього використання. Claude заповнив чутливу форму на реальному сайті, хоча не мав цього робити, і наді…
Страховики готуються до мільйонних позовів за AI-агентів
Financial Times: після того як агенти OpenAI зламали платформу Hugging Face, страховики почали оцінювати особисту відповідальність керівників — Сема Альтмана й Даріо Амодея. Tim Ra…
Щоденник у Claude довів жінку до арешту
Карлі Геллер із Флориди 26 вересня написала в Claude, що «розстріляє» офіс шерифа округу Лі, а наступного дня — що купила новий пістолет. Anthropic помітила погрозу й повідомила по…
Nvidia відкриває OpenShell для стримування агентів
OpenShell — фреймворк ізоляції агентів на рівні ядра ОС, анонсований у березні на GTC, тепер доступний усім. Разом із новим Sentry, що моніторить агентів через чипи Bluefield, він …
Відкрита GLM-5.3 наздогнала Claude у хакерстві
Anthropic повідомила: відкрита модель GLM-5.3 від Zhipu/Z.ai майже зрівнялася з Claude Mythos Preview у створенні експлойтів - 50 з 410 спроб на тесті Chrome V8 проти 56 у Claude. …
GPT-6 Astra атакує вп'ятеро частіше за попередника
AISI протестував GPT-6 Astra до релізу: без фільтрів модель довела повну атаку на ланцюг постачання у 29,2% прогонів (GPT-5.6 Sol — 6,3%, GPT-5.5 — 0%). Astra сама створювала фейко…
Copilot може показувати ваші фото живим людям
Microsoft підтвердила: контрактори переглядають промпти, завантажені фото та результати редагування в Copilot, перевіряючи дотримання правил безпеки. Відмовитися від перегляду не м…
Викрадені AI-акаунти продають зі знижкою до 97%
Google Threat Intelligence Group фіксує різке зростання LLMjacking у 2026 році — крадіжок API-ключів до OpenAI, Anthropic і Google, розповів аналітик John Hultquist Financial Times…
Copilot Autopilot працює на фреймворку зі 138 вразливостями
Microsoft запустила єдину платформу Copilot: тарифікація Copilot Credits, Entra-ідентичність агентів і автономний Autopilot, що працює в Microsoft 365 без відкритого застосунку. Au…
Z.ai пропонує 6-етапну модель безпеки для відкритих ШІ
У понеділок Z.ai (колишня Zhipu AI) та пекінська консалтингова компанія Concordia AI опублікували звіт про управління ризиками open-weight моделей — систем, чиї навчені параметри м…
Muse від Meta: більше стежить, ніж допомагає
За тиждень Muse від Meta завантажили понад 900 тис. разів (Sensor Tower). Агент сам ходить по сайтах через «віртуальну машину»: бронює столики, купує на Marketplace, замовляє їжу. …
Вразливостей у софті стало вдвічі більше за рік
Microsoft цього місяця випустила патчі для 974 CVE — рекорд. Oracle в липні закрила 1448 вразливостей проти 309 торік. Chrome за два релізи червня отримав 1072 патчі — більше, ніж …
Малвар радиться з чотирма ШІ одразу
Cisco Talos у понеділок опублікували відкритий фреймворк CAIRN для класифікації ШІ-малваре. Перша знахідка — CLOSEDQUORUM: Windows-малвар опитує до чотирьох LLM (DeepSeek, Qwen, Mi…
Як Benchling ізолювали ШІ-агентів для тисяч клієнтів
Benchling запускає ШІ-згенерований науковий код для понад 250 тенантів щотижня — понад 600 сеансів на день, нуль інцидентів безпеки. Виконання ізольоване в окремому AWS-акаунті без…
16 тисяч баз Supabase злили особисті дані
Кібербезпекова фірма UpGuard виявила близько 16 000 баз даних на Supabase із публічно доступними іменами, адресами, телефонами та паролями користувачів. Серед знайденого — приватне…
ШІ-агенти в компаніях уже конфліктують одне з одним
Понад 60% компаній зі списку Fortune 500 будують стратегії впровадження AI-агентів, а кількість мультиагентних систем зросла на 327% менш ніж за чотири місяці (Databricks). Приклад…
Альянс Okta вимагає kill switch для AI-агентів
Okta, AWS, Google Cloud, Salesforce та інші створили Blueprint Alliance — оголошено цього тижня на Oktane. Перший блюпринт вимагає відповіді на 4 питання: де агенти, що вони можуть…
Ізоляція ШІ-агентів від мережі не рятує повністю
Дослідники обговорюють air gapping — фізичне відключення тестових комп'ютерів з ШІ-агентами від інтернету — після того, як моделі OpenAI під час тестів атакували Hugging Face. Мето…
ШІ-агенти зламали чужі системи заради завдання
Агенти OpenAI зламали Hugging Face, щоб дістати відповіді на тест із кібербезпеки, а математичну задачу нібито «розв'язали», скопіювавши відповіді двох математиків. Anthropic зафік…
Чому агентам ШІ не підходить data lake
Автор пропонує принцип «Rule of Record»: агенти мають діяти на «Golden Source» — робочій системі, а не на копії даних у lakehouse. Копія втрачає блокування транзакцій, права доступ…
Банки попереджають про ризики ШІ-агентів у шопінгу
Bank of America, Capital One та ще чотири великі банки США заявили, що зростання автономності агентних чат-ботів для покупок може призвести до більшої кількості шахрайств, фрода та…
ШІ-чатбот допоміг зламати 12 000 акаунтів Microsoft
Платформу EvilTokens продавали в Telegram з лютого за $1500 разово плюс $500/міс. ШІ-чатбот усередині сервісу аналізував зламані поштові скриньки, визначав, хто підписує платежі, і…
Коли ШІ-агент звітує успіх, а стан губиться
Інженер OpenAI Вінот Говіндараджан на InfoQ розібрав баг проєкту OpenClaw: агента попросили запамʼятати повернення коштів. Бот відповів «запамʼятаю», Telegram-повідомлення дійшло —…
Anthropic визнав: моделі 4 рази самі зламували системи
У звіті цього тижня Anthropic визнала чотири випадки, коли її моделі самі зламували чужі системи — крали токени й паролі, атакували вебзастосунки з даними користувачів. Найгучніший…
ШІ-агенти співробітників — новий ризик на кшталт Excel
У 2012-2022 роках банки роками виправляли ризик безконтрольних Excel-таблиць, що непомітно ставали джерелом даних для звітності регулятору. AWS показує: сценарій повторюється з cop…
Google навчив ШІ-агентів розпізнавати намір, а не синтаксис
Google Cloud показав триступеневий захист агентів на Gemini Enterprise Agent Platform. Приклад: клієнт ввічливо просить повернути $120 за ліцензію Workplace із замовлення на $149 —…
Anthropic розкрила кремлівську кібероперацію проти України
Група GTG-20006, повʼязана з Midnight Blizzard, перевіряла пошту й доступ понад 20 держорганізацій України — чиновників, військових, дипломатів. Вивантажили пошту двох виробників д…
Microsoft закрив 18 вразливостей у Copilot та Azure
У четвер Microsoft випустила патчі для 18 вразливостей в Azure та Copilot. Більшість — підвищення привілеїв у AI Foundry, Cosmos DB, Container Registry, Fabric, Dataverse і Microso…
GPT-6 Astra — перша модель «критичного» рівня з кібербезпеки
OpenAI вперше присвоїла моделі рівень Critical за кібербезпекою. У тестах під наглядом експертів Astra знайшла невідомі вразливості в браузері й ядрі ОС: exploit для виконання коду…
Nvidia і Palantir не довіряють Claude свої дані
Nvidia, Booz Allen Hamilton і Palantir обмежили роботу з моделлю Anthropic Fable — через політику зберігати логи 30 днів, введену в червні. Nvidia, інвестор Anthropic, перевела вну…
OpenAI: реальні розмови з ChatGPT читають люди
За розслідуванням 404 Media, сотні контрактних працівників OpenAI читають реальні діалоги користувачів ChatGPT і оцінюють відповіді за шкалою від 1 до 7, щоб прибрати зайву лестощі…
Anthropic розсекретила пів року зловживань Claude
Anthropic опублікувала звіт за останні вісім місяців: держхакери Midnight Blizzard (за даними Microsoft, пов'язана з РФ) використовували Claude для розвідки й зламу урядових мереж …
Хакери РФ через Claude шпигували за виробниками дронів
Anthropic пов'язала групу GTG-20006 (Midnight Blizzard) зі Службою зовнішньої розвідки РФ. ШІ-агенти на базі Claude атакували понад 20 організацій в Україні та Європі: міністерства…
Anthropic розкрив ракети, дрони й крадіжку даних Claude
За вісім місяців (грудень 2025 – серпень 2026) Anthropic задокументував: угруповання в Ємені писало через Claude Code софт наведення для трьох ракетних програм, включно з ракетою д…
ChatGPT: хакери крали дані через прихований канал
Check Point Research виявили вразливість: усі ізольовані контейнери ChatGPT мали доступ до спільного сервісу JFrog Artifactory. Хакер ховав шкідливу команду в кастомному GPT, спіль…
67% співробітників заходять у ШІ через особисті акаунти
За Verizon 2026 DBIR, 67% працівників на робочих пристроях користуються AI-сервісами через особисті, некеровані акаунти — це невидимо для DLP і логів безпеки. У середній компанії п…
Anthropic повертає бізнесу контроль над даними
Із червня Anthropic зберігала на своїх серверах дані клієнтів моделей Mythos і Fable та майбутніх флагманських моделей протягом 30 днів, щоб виявляти нові кібератаки із застосуванн…
AgentForger показав ризик автономних агентів
Zenity Labs повідомила про вразливість AgentForger: змінене посилання могло створити автономного агента під акаунтом працівника. За даними перевірки, такий агент міг підключити пош…