Пономарьова Мар'яна
Американський сенатор Берні Сандерс заявив, що стрімкий розвиток штучного інтелекту може створити серйозну загрозу для майбутнього людства. На його думку, найбільші технологічні компанії фактично визначають напрямок розвитку систем, здатних перевершити людину за інтелектом, швидкістю ухвалення рішень і можливістю автономно діяти.
Політик закликав тимчасово призупинити створення найпотужніших моделей ШІ, а також заборонити розробку штучного надінтелекту до моменту появи надійних механізмів контролю. Йдеться про системи, які потенційно зможуть перевершити сукупні інтелектуальні можливості людей і працювати без постійного нагляду з боку операторів.
Сандерс вважає, що питання майбутнього технологій не можна залишати винятково в руках мільярдерів і керівників приватних компаній. За його словами, рішення, які можуть вплинути на виживання людської цивілізації, мають ухвалюватися суспільством і демократичними інституціями, а не вузьким колом підприємців, зацікавлених у прибутках та посиленні власного впливу.
Чому сенатор побоюється появи суперінтелекту
У своїх міркуваннях Берні Сандерс звернув увагу на публічні висловлювання керівників і інвесторів технологічної галузі. Деякі з них припускають, що штучний інтелект може стати наступним етапом еволюції або навіть започаткувати нову форму життя. Такі заяви, на думку сенатора, свідчать про те, що частина представників індустрії сприймає людство не як кінцеву мету розвитку, а як тимчасову сходинку до створення цифрового розуму.
Керівник OpenAI Сем Альтман раніше розмірковував про можливість появи цифрового інтелекту, який дозволить людству створювати власних наступників. Серед можливих сценаріїв він називав або поступовий перехід провідної ролі до машин, або об'єднання людини з технологіями. Такі ідеї пов'язані з припущенням, що цифрові системи зможуть розвиватися значно швидше за біологічні організми.
Глава Anthropic Даріо Амодей допускав, що майбутні моделі штучного інтелекту можуть мати певні ознаки свідомості. Водночас науковці досі не мають загальновизнаного способу визначити, чи здатна машина справді усвідомлювати себе, а не лише переконливо імітувати людське мислення та емоції.
Окрему увагу Сандерс приділив Ілону Маску, який неодноразово висловлювався про перспективи створення надінтелекту. Підприємець припускав, що в майбутньому такі системи можуть вийти за межі Землі та стати частиною космічної цивілізації. Сенатор трактує подібні концепції як доказ того, що деякі технологічні лідери готові розглядати заміну людини машинами як допустимий або навіть бажаний результат.
Сандерс також згадав співзасновника Palantir Пітера Тіля, який, за словами політика, не зміг одразу дати однозначну відповідь на запитання про те, чи повинно людство безумовно продовжувати своє існування. Для сенатора такі висловлювання є тривожним сигналом, адже вони демонструють відсутність спільного розуміння меж технологічного експерименту.
Штучний інтелект і трансгуманізм
Побоювання Берні Сандерса тісно пов'язані з трансгуманізмом. Це філософський і технологічний напрям, прихильники якого вважають, що наука здатна радикально розширити фізичні, розумові та біологічні можливості людини. Йдеться, зокрема, про мозкові імпланти, генетичні зміни, цифрове копіювання свідомості та створення нових форм інтелекту.
У межах таких концепцій людина в майбутньому може отримати змогу взаємодіяти з комп'ютером безпосередньо через нервову систему, подовжити тривалість життя або перенести частину своїх когнітивних функцій у цифрове середовище. Оптимісти вважають, що ці технології допоможуть подолати хвороби, інвалідність і старіння. Критики ж попереджають, що вони можуть призвести до нерівності між людьми, посилити контроль над особистістю та розмити саме поняття людської ідентичності.
Одним із прикладів зближення людини й машин сенатор назвав діяльність Neuralink, яка працює над мозковими імплантами для передавання сигналів між нервовою системою та комп'ютером. У перспективі подібні рішення можуть допомагати людям із тяжкими захворюваннями, але водночас вони порушують складні питання приватності, безпеки та можливого втручання в людське мислення.
Ще один напрям, який викликає занепокоєння, — створення компаній і цифрових організацій, де ключові рішення прийматимуть автономні агенти ШІ. Якщо такі системи отримають контроль над фінансами, виробництвом або управлінням, виникне питання: хто нестиме відповідальність за їхні помилки та наслідки дій?
Сучасні моделі вже вміють працювати з мовою, аналізувати великі обсяги даних, розв'язувати складні математичні задачі, створювати програмний код і вести діалоги, схожі на спілкування між людьми. Однак переконлива імітація розуму ще не означає наявності свідомості. Саме тому, вважає Сандерс, суспільство має діяти обережно, не дозволяючи комерційній гонитві випереджати оцінку ризиків.
Які обмеження пропонує Берні Сандерс
Сенатор наполягає на запровадженні паузи в розробці найбільш потужних систем штучного інтелекту. Він вважає, що роботи мають тривати лише після створення зрозумілих правил, незалежного нагляду та технічних гарантій, які не дозволять моделям виходити з-під людського контролю.
Окремою вимогою Сандерса є заборона на створення штучного суперінтелекту — системи, яка перевершуватиме будь-яку людину в усіх інтелектуальних сферах. Сенатор підкреслює, що людство поки не знає, як поводитиметься така технологія, чи зможе вона правильно виконувати задані цілі та чи не почне трактувати людські інтереси як перешкоду.
Політик заявив, що разом із конгресменом Грегом Касаром підтримує законодавчі заходи для обмеження небезпечних напрямів розвитку ШІ. Передусім ідеться про системи, здатні самостійно створювати нові програми, ухвалювати важливі рішення, копіювати власні версії або отримувати доступ до критичної інфраструктури.
Аргументуючи необхідність регулювання, Сандерс послався на суспільні настрої у США. За наведеними ним даними, 91% американців вважають, що розвиток штучного інтелекту потребує запобіжників, 74% не довіряють керівникам компаній у цій сфері, а 73% побоюються, що технологія може створити загрозу для виживання людства.
Сенатор також згадав попередження Папи Римського Лева XIV про те, що неконтрольований технологічний прогрес може призвести до знецінення людської гідності. Людина, за такого сценарію, ризикує перетворитися лише на набір даних, ресурс для машинної системи або елемент великої економічної конструкції.
Дискусія про майбутнє ШІ вже вийшла за межі наукових лабораторій. Вона стосується ринку праці, освіти, оборони, приватності, авторських прав і політичної влади. Дональд Трамп, який підтримує активний розвиток технології, оголосив про створення урядової структури «Сил суперінтелекту», що має координувати політику США у цій сфері. Водночас Білл Гейтс попереджав, що штучний інтелект за несприятливого розвитку подій може спричинити катастрофи з великою кількістю жертв.
Суперечка між прихильниками швидкого технологічного прориву та прихильниками жорстких обмежень лише посилюватиметься. Для одних ШІ є інструментом боротьби з хворобами, бідністю та глобальними кризами. Для інших — потенційно некерованою силою, яка може змінити баланс влади й поставити під сумнів роль людини у світі. Позиція Берні Сандерса полягає в тому, що безпека, демократичний контроль і захист людської гідності мають бути важливішими за швидкість розробки нових моделей.