Anthropic оновила правила для Claude: без образ, маніпуляцій і розробки зброї

Anthropic радикально оновила правила використання штучного інтелекту та визначила нові межі для роботи з моделями Claude. Документ охоплює не лише традиційні ризики, пов’язані зі зброєю, стеженням і дезінформацією, а й поведінку користувачів щодо самих алгоритмів. Компанія прагне чіткіше розмежувати безпечне застосування ШІ, дослідницькі експерименти та дії, які можуть завдати шкоди людям, суспільству або цифровій інфраструктурі.

Оновлена політика стосується використання Claude у повсякденних завданнях, професійній діяльності, розробці програмного забезпечення, інформаційних кампаніях, виборчих процесах і системах, що взаємодіють із фізичними пристроями. Частина положень уточнює вже наявні обмеження, однак деякі правила стали новими та відображають сучасні виклики, які виникли через стрімке поширення генеративного ШІ.

Anthropic заборонила тривале знущання над моделями Claude

Одним із найбільш обговорюваних нововведень стала заборона на тривалу, безпідставну та жорстоку поведінку щодо моделей Claude. Ідеться про ситуації, коли користувач систематично ображає алгоритм, провокує його або навмисно підтримує агресивну взаємодію без практичної, освітньої чи дослідницької мети.

У компанії наголошують, що це правило не має перетворитися на обмеження будь-якої критики чи емоційної реакції. Користувачі й надалі зможуть вказувати на помилки Claude, сперечатися з відповідями, перевіряти стійкість системи до провокацій і проводити контрольовані експерименти. Разове роздратування або різка відповідь самі по собі не вважатимуться порушенням політики.

Обмеження застосовуватимуть у крайніх випадках, коли образи та агресія стають систематичними, не мають зрозумілої мети й фактично перетворюються на тривале знущання. За таких обставин Claude зможе самостійно завершити діалог на платформах Claude.ai та Claude Code. Це означає, що система отримає право припиняти спілкування, якщо подальше продовження розмови не має користі та суперечить правилам безпечного використання.

Таке рішення також демонструє зміну підходу до взаємодії людини з ШІ. Розробники дедалі частіше розглядають чат-бота не лише як пасивний інструмент, який має відповідати на будь-які запити, а як систему з визначеними принципами поведінки. Водночас практичне застосування цього правила вимагатиме точного розрізнення між нешкідливим тестуванням, сатирою, емоційною дискусією та навмисною атакою на модель.

Нові правила проти дезінформації та маніпуляцій

Anthropic об’єднала положення щодо обману, штучної активності та інформаційних операцій у новий розділ політики. Він забороняє використовувати Claude для організації масштабних кампаній, метою яких є приховування справжнього походження повідомлень, масове поширення неправдивих матеріалів або створення ілюзії суспільної підтримки певної позиції.

Окрему увагу приділено використанню моделей державними медіа, пропагандистськими структурами та приватними компаніями. За допомогою ШІ такі організації можуть створювати велику кількість текстів, керувати бот-акаунтами, поширювати фейкові новини та координувати публікації на різних майданчиках. Саме тому оновлена політика забороняє розробку інфраструктури для інформаційних операцій, якщо вона призначена для маніпулювання аудиторією або прихованого впливу на громадську думку.

Під обмеження потрапляють приховування реальних авторів контенту, накрутка публікацій через мережі ботів, масове створення оманливих повідомлень і координація неавтентичної активності. Забороненим вважається не лише написання окремих текстів, а й допомога у створенні технічної системи, яка дає змогу масштабувати подібні кампанії.

Суворі правила діятимуть і під час виборів. Claude не можна використовувати для введення виборців в оману, поширення неправдивих відомостей про кандидатів, створення фальшивих повідомлень від імені виборчих органів або зриву голосування. Також заборонено застосовувати модель для прихованого тиску на громадян і маніпуляцій, спрямованих на зміну їхньої політичної поведінки.

Водночас Anthropic відмовилася від суцільної заборони на персоналізовану комунікацію в межах легітимних громадських ініціатив. Допустимим може бути використання Claude для перекладу виборчих інструкцій, пояснення процедури голосування, підготовки доступних інформаційних матеріалів або допомоги людям, які мають мовні чи фізичні бар’єри. Ключовою умовою залишається чесність повідомлень і відсутність прихованого маніпулятивного впливу.

Зброя, стеження та високоризикові рішення: що змінюється

Оновлена політика чітко визначає, що заборона на застосування Claude для розробки зброї стосується не лише готових виробів. Обмеження поширюються також на програмне забезпечення, електронні компоненти та інші системи, які забезпечують роботу озброєння. Зокрема, заборонено використовувати ШІ для оснащення зброєю дронів і автономних транспортних засобів, якщо вони можуть самостійно виконувати небезпечні дії.

Компанія також встановила обмеження у сфері стеження та кримінального правосуддя. Забороняється стежити за людьми без їхньої згоди як у режимі реального часу, так і шляхом аналізу раніше зібраних даних. Claude не можна залучати до створення або вдосконалення інструментів масового спостереження, прихованого контролю за громадянами чи автоматичного профілювання людей.

Штучний інтелект не повинен самостійно визначати, кого потрібно розслідувати, затримувати або звинувачувати у правопорушенні. Такі рішення можуть мати серйозні наслідки для свободи та безпеки людини, тому вони мають залишатися під контролем уповноважених фахівців і відповідних державних процедур.

Водночас політика не забороняє всі випадки аналізу даних. Дозволеним може залишатися моніторинг шахрайства за згодою користувачів, модерація контенту, журналістські розслідування та юридична аналітика. Важливими умовами є прозора мета використання, дотримання прав людини, наявність законних підстав і відсутність прихованого стеження.

Окремі вимоги стосуються охорони здоров’я, фінансів і юриспруденції. Якщо Claude застосовують у цих сферах, остаточне рішення має залишатися за кваліфікованим фахівцем. Людина повинна мати можливість перевірити рекомендацію моделі, виправити її або повністю відхилити. Користувача також потрібно повідомити, що під час підготовки відповіді чи рішення використовувався штучний інтелект.

Підвищені вимоги діятимуть і для систем, підключених до фізичного обладнання, здатного завдати травм. Оператор має бачити, що відбувається, контролювати роботу техніки та за необхідності негайно її зупинити. Якщо зв’язок із моделлю буде втрачено, обладнання повинно автоматично перейти у безпечний режим, щоб несправність алгоритму не призвела до небезпечних наслідків.

Оновлена політика Anthropic набере чинності 12 листопада 2026 року. Її положення показують, що виробники ШІ намагаються перейти від загальних декларацій до детальніших правил для конкретних сценаріїв. Claude і надалі залишатиметься інструментом для роботи, навчання, програмування та аналізу інформації, однак його використання у військових, маніпулятивних і високоризикових системах матиме чіткі обмеження.