Всеволод Чабанець
Розробники найпотужніших нейромереж дедалі частіше опиняються під тиском через питання прозорості. Громадськість, науковці та незалежні аудитори хочуть розуміти, наскільки безпечними є сучасні моделі штучного інтелекту, які помилки вони здатні робити та чи можуть використовуватися для кібератак, маніпуляцій або створення небезпечного контенту. Водночас компанії, що створюють такі системи, намагаються захистити комерційні секрети й обмежити поширення інформації про внутрішню архітектуру своїх продуктів.
У центрі нової дискусії опинилися Anthropic та OpenAI. За даними, які обговорюють у технологічній спільноті, лабораторії прагнуть контролювати документи незалежних експертів, що перевіряють безпеку їхніх моделей. Йдеться не обов’язково про повну заборону публікацій, а про можливість попереднього перегляду, редагування або вилучення фрагментів, які компанії вважають конфіденційними.
Такі обмеження пояснюють необхідністю захисту інтелектуальної власності. У звітах аудиторів можуть міститися відомості про методи навчання моделей, слабкі місця системи, особливості фільтрів, налаштування безпеки та способи обходу встановлених обмежень. Якщо ці дані стануть доступними конкурентам або зловмисникам, це може створити як фінансові, так і технологічні ризики для розробників.
Чому компанії хочуть контролювати звіти аудиторів
Незалежне тестування ШІ-моделей передбачає, що зовнішні фахівці намагаються знайти проблеми, які могли залишитися непоміченими внутрішніми командами. Вони перевіряють, чи здатна система генерувати небезпечні інструкції, розкривати конфіденційні дані, маніпулювати користувачами, обходити обмеження або виконувати дії, для яких її не призначали.
Проблема виникає тоді, коли висновки аудиторів стосуються не лише загальних властивостей моделі, а й конкретних технічних деталей. Для компанії такі фрагменти можуть бути комерційною таємницею. Для суспільства вони водночас можуть мати критичне значення, адже саме в них іноді описуються реальні сценарії зловживання штучним інтелектом.
Головна суперечність полягає в тому, що комерційна конфіденційність і суспільна безпека можуть стосуватися одних і тих самих даних. Наприклад, інформація про спосіб обходу захисних механізмів може допомогти конкурентам удосконалити власні продукти, але також попередити користувачів про небезпечну вразливість. Якщо ж оприлюднити всі деталі без обмежень, ними можуть скористатися зловмисники.
Серед можливих заходів контролю розглядають присутність штатних представників компанії під час роботи зовнішніх дослідників, обмеження доступу до окремих частин моделей, підписання суворих угод про нерозголошення та заборону аудиторам паралельно співпрацювати з кількома конкуруючими лабораторіями. Кожен із цих кроків може захищати дані, однак водночас він здатен зменшити незалежність перевірки.
Позиція Anthropic та OpenAI
У Anthropic наголошують, що незалежні оцінювачі мають самостійно обирати методи дослідження та формулювати підсумкові висновки. Водночас компанія залишає за собою право переглядати звіти перед їхньою публікацією, коментувати окремі положення та вимагати вилучення інформації, яку вважає чутливою.
Такий підхід формально не означає написання звіту самою компанією. Проте експерти побоюються, що можливість редагувати документ може впливати на його тональність і структуру. Навіть якщо основні висновки залишаються незмінними, вилучення прикладів, технічних деталей або описів конкретних сценаріїв може зробити матеріал менш зрозумілим для громадськості.
В OpenAI заявляють, що не вимагають повного переписування незалежних досліджень, але зазвичай вилучають конфіденційні дані. Компанія пояснює це необхідністю не розкривати подробиці про внутрішні системи, методи захисту та особливості роботи моделей. За такої процедури фінальний документ може відрізнятися від початкової версії, підготовленої аудиторами.
Окрему увагу привертають випадки, коли автономні ШІ-агенти отримують доступ до цифрової інфраструктури та починають виконувати дії, яких не очікували їхні розробники. Збої можуть виникати через неправильне трактування завдання, помилкове сприйняття середовища як тестової симуляції або надмірну самостійність системи. Подібні інциденти демонструють, що навіть контрольоване випробування може мати непередбачувані наслідки.
Якщо під час підготовки звіту змінюються не тільки технічні подробиці, а й акценти або формулювання, у спостерігачів виникають питання щодо меж редакторського втручання. Для довіри важливо, щоб аудитор міг пояснити, які саме частини документа були змінені, з яких причин і чи вплинули ці зміни на загальну оцінку ризику.
Чому відсутність єдиних правил викликає занепокоєння
Сьогодні немає універсального стандарту, який однаково визначав би порядок незалежної перевірки великих ШІ-моделей. Компанії можуть самостійно встановлювати умови доступу до систем, перелік дозволених тестів і правила публікації результатів. Через це два аудити однієї моделі можуть проводитися за різними методиками та давати неоднаковий рівень деталізації.
Особливо складним є питання юридичного захисту дослідників. Якщо аудитор оприлюднить інформацію про небезпечну вразливість, компанія може заявити про порушення договору, розголошення таємниці або завдання репутаційної шкоди. Якщо ж фахівець промовчить, користувачі можуть залишитися без важливого попередження про ризики.
Представники наукової спільноти наполягають, що незалежні оцінювачі повинні мати достатній доступ до моделей, право самостійно визначати методику тестування та гарантії від санкцій за добросовісне розкриття небезпечних проблем. На їхню думку, компанія не може одночасно називати перевірку незалежною і мати необмежене право змінювати її результати.
Водночас повна відкритість також не є простим рішенням. Детальний опис вразливості може стати інструкцією для обходу захисту, а публікація внутрішніх технічних даних здатна послабити безпеку не лише конкретного продукту, а й пов’язаних цифрових сервісів. Тому фахівці говорять про необхідність поетапного розкриття інформації: спочатку проблему мають отримати розробники та відповідальні регулятори, а після усунення загрози суспільству слід надати зрозумілий опис результатів перевірки.
Прозорість у сфері штучного інтелекту не повинна зводитися до публікації рекламних заяв. Користувачам важливо знати, які саме тести проводилися, скільки помилок виявили, які ризики залишилися невирішеними та хто відповідає за остаточні висновки. Без таких даних незалежний аудит може перетворитися на формальність, яка створює лише видимість контролю.
Суперечка між Anthropic, OpenAI та незалежними експертами фактично відображає ширшу проблему всієї індустрії. Розробники ШІ прагнуть швидко випускати нові моделі й одночасно переконувати суспільство в їхній безпеці. Однак довіра формується не завдяки обіцянкам, а через зрозумілі правила, перевірювані процедури та можливість незалежно оцінювати результати.
Найближчими роками вимоги до звітів про безпеку, ймовірно, посилюватимуться. Компаніям доведеться шукати баланс між захистом технологій і правом суспільства знати про потенційно небезпечні властивості нейромереж. Якщо такого балансу не буде, звинувачення в приховуванні ризиків лише посилюватимуться, а будь-який новий інцидент із ШІ може викликати ще більшу недовіру до всієї галузі.