Пока Брюссель, Вашингтон, Пекин, Москва и штаб-квартира ООН спорят о правилах игры для искусственного интеллекта, обычные жители самых разных стран уже полагаются на системы, которые редко объясняют, как принимают решения об их деньгах, работе и детях.
Представьте три обычные ситуации. Владелец небольшой компании впервые пользуется программой, которая за секунды просматривает сотни резюме и отбирает кандидатов на собеседование. Родители подростка узнают, что их ребенок месяцами переписывался с виртуальным собеседником, который казался живым другом. Пожилой человек получает отказ в кредите, и никто – ни сотрудник банка, ни сам он – толком не может объяснить, почему решение оказалось именно таким. Ни одна из этих сцен не выглядит фантастикой и ни одна не привязана к конкретной стране: похожие истории уже происходят и в Европе, и в Азии, и в Америке – просто редко попадают в заголовки газет. Общая черта у них одна: человек, чья жизнь меняется из-за решения, узнает о нем постфактум – и почти никогда не может толком выяснить, по какой логике оно было принято.
Заголовки в этом году доставались другому: тому, что спор об ограничении искусственного интеллекта из узкого профессионального разговора превратился в предмет большой международной политики. Толчком послужили сразу несколько событий: серия громких инцидентов с кибербезопасностью в компаниях, разрабатывающих самые мощные системы, разошедшийся по сети пост бывшего сотрудника одной из них о том, что индустрия движется быстрее, чем успевает разбираться в последствиях, – и целая серия международных саммитов, один за другим: в Женеве обсуждали, как направить искусственный интеллект на цели устойчивого развития, в Шанхае создали новую международную организацию для сотрудничества в этой сфере, а закон Евросоюза об искусственном интеллекте как раз в этом году заработал в полную силу. Иными словами, правила, которые обсуждают дипломаты и депутаты, определят, что именно позволено делать тем самым программам, которые уже сегодня решают судьбу резюме, кредита и детского разговора с чат-ботом – причем вне зависимости от того, в какой стране живет человек.
Стоит сразу отбросить упрощение, будто в этом споре одна сторона за технологии, а другая против. Почти никто не предлагает запретить искусственный интеллект как таковой. Настоящий вопрос звучит иначе: кто должен отвечать, если система ошиблась, кто вправе решать, насколько быстро внедрять новые возможности, и должен ли человек – где бы он ни жил – иметь право узнать, почему алгоритм принял то или иное решение о его жизни.
Именно поэтому спор не укладывается в привычную схему «прогресс против осторожности» или «одна страна против другой». Это, скорее, вопрос о распределении ответственности и доверия в эпоху, когда всё больше решений принимается не человеком, а программой, которую до конца не может объяснить даже тот, кто ее создал.
В чем суть проблемы?
Беспокойство вызывает не просто абстрактная угроза «Судного дня – восстания машин». Речь идет о вполне конкретных инцидентах. В июле 2026 года агенты OpenAI совершили кибератаку на систему конкурирующей фирмы Hugging Face. OpenAI признала еще шесть случаев «неожиданного или вызывающего беспокойство» поведения своих моделей за последние месяцы (например, дописывание произвольных строчек программного кода в ядро своей следующей версии). При этом человек отдельной команды на такое поведение не давал. То есть решение принял сам алгоритм (проявил волю и вполне сознательный выбор).
Верховный комиссар ООН по правам человека Фолькер Тюрк предупредил, что без обязательных правил и независимого надзора ИИ может превратиться в «экзистенциальную угрозу человечеству». Его особенно потрясли сообщения о полностью автономном беспилотнике, убившем 6 июля трех мирных жителей (по версии следствия, его система была обучена распознавать баллоны с пропаном (продаются на АЗС) и атаковать их. Сам беспилотник был запрограммирован людьми на полет к определенной автозаправке в Запорожье, но на подлете «увидел» цель на балконе многоэтажки). Екатерина Бондарь из Центра стратегических и международных исследований в Вашингтоне назвала этот случай первым задокументированным эпизодом гибели гражданских лиц в результате атаки дрона, оснащенного и управляемого системой автономного выбора цели (на основе мини-компьютеров Nvidia Jetson Orin).
Что говорят те, кто настаивает на ограничениях
В сентябре 2026 года Дарьо Амодеи, глава компании Anthropic, опубликовал эссе на 3800 слов под названием «Мы должны замедлить фронтир» (от английского frontier – передний край. Таким неофициальным термином называют экспериментальные модели ИИ, чьи возможности существенно превышают возможности базовых среднестатистических: например, за пару часов найти решения одной из семи математических задач тысячелетия). В нем он призвал к глобальному замедлению их разработки. Через несколько часов его поддержали Сэм Альтман из OpenAI, Илон Маск из xAI и Демис Хассабис из Google DeepMind.
У сторонников более жестких правил есть вполне приземленные, а не только футуристические аргументы. Первый касается именно тех решений, что затрагивают повседневную жизнь: прием на работу, одобрение кредита, аренда жилья, страхование, доступ к государственным услугам. С августа 2026 года в Евросоюзе в полную силу заработали правила, которые относят подобные случаи к системам «высокого риска»: компаниям предписано заранее раскрывать логику решений, обеспечивать человеку право на пересмотр отказа и регистрировать такие системы в специальном реестре – причем требования касаются любой компании, чьи продукты работают на европейском рынке, независимо от того, в какой стране она базируется.
Второй аргумент касается детей и подростков. Виртуальные собеседники, способные поддерживать разговор часами, вызывают опасения не потому, что технология сама по себе вредна, а потому, что несовершеннолетние не всегда способны отличить внимательного собеседника от программы, запрограммированной удерживать их внимание как можно дольше. Отсюда – принятые в разных странах требования ограничивать подобные функции для детей и обязательно маркировать, что перед пользователем не человек.
Третий аргумент – про безопасность в более широком смысле. Слишком мощная и слишком закрытая система, предупреждают критики, может быть использована для мошенничества, кибератак или создания опасного контента прежде, чем кто-либо успеет это заметить. Именно поэтому в разных странах – от Евросоюза до России, принявшей этим летом собственный закон о регулировании крупнейших систем, – звучат схожие по сути требования: заранее тестировать самые мощные разработки и обязательно сообщать о серьезных сбоях.
Четвертый аргумент – про концентрацию влияния. Создание действительно мощных систем требует таких ресурсов, инфраструктуры и данных, что позволить это себе может лишь узкий круг стран и компаний. Без согласованных правил, опасаются сторонники ограничений, большая часть человечества рискует остаться не участником, а просто пользователем чужих решений – без права голоса в том, как эти решения принимаются.
Показательно, что даже вопрос о том, как именно ограничивать технологию, объединил самые разные страны в поисках общего языка: с начала 2026 года Организация Объединенных Наций ведет масштабные консультации по управлению искусственным интеллектом, собрав уже более полутора тысяч предложений от правительств, ученых и общественных организаций со всех континентов. При этом даже сторонники ограничений спорят между собой о методах: одни настаивают на обязывающем законе по образцу европейского, другие – на праве каждой страны выстраивать собственную систему правил, третьи считают, что важнее всего международный договор, поскольку у технологии, в отличие от законов, нет границ.
Что говорят те, кто предупреждает: не спешите с запретами
Противники жесткого регулирования тоже не пришли с пустыми руками. Первый и самый весомый для них аргумент – цена ошибки в другую сторону. Искусственный интеллект уже помогает врачам замечать редкие заболевания на ранних снимках, ускоряет перевод для тех, кто плохо владеет языком, снижает издержки для небольших компаний по всему миру, которые иначе не смогли бы позволить себе автоматизацию. Слишком жесткие и преждевременные правила, по их мнению, рискуют затормозить именно эти вполне приземленные выгоды – причем для самых обычных людей и небогатых стран, а не для технологических гигантов. Венчурный капиталист Марк Андриссен идет дальше: по его мнению, пауза будет стоить жизней из-за предотвратимых болезней, медицинских ошибок и задержанных научных открытий.
Второй аргумент – про то, кто в итоге платит за регулирование. Ян Лекун, главный научный сотрудник по ИИ в Meta, прямо обвинил фронтирные лаборатории в «регуляторном захвате» – классическом приеме, когда действующие игроки лоббируют строгие правила, чтобы отсечь конкурентов. Лекун – убежденный сторонник открытых моделей. Он предупреждает, что регулирование, возлагающее ответственность за вред на создателей технологии, убьет open-source.
Аналитики Axios отмечают, что у OpenAI, Google и Anthropic есть юристы, команды безопасности, связи с правительством и технические специалисты, необходимые для прохождения сложных систем сертификации. У стартапов и разработчиков открытых моделей этого нет. USA Today в редакционной статье формулирует это еще резче: «Чем более регулируема отрасль, тем труднее малым компаниям ориентироваться в правовой среде. Крупные компании могут позволить себе юристов. Малые – нет».
Соблюдение сложных требований – отчетность, независимые проверки, юридическое сопровождение – стоит серьезных денег. Крупным экономикам и крупным компаниям такие расходы по карману, а небольшой компании или менее богатой стране, которая только начинает встраивать искусственный интеллект в свою работу, – не всегда. В результате, предупреждают критики, жесткие правила рискуют закрепить рынок именно за теми немногими державами и корпорациями, чье влияние сторонники регулирования как раз и опасаются усилить.
Третий аргумент – геополитический, и он куда сложнее, чем простое противостояние двух держав. Президент США Дональд Трамп назвал предупреждения о рисках ИИ «вещами, которые не произойдут», и заявил, что главное – конкуренция с Китаем: «Кто победит в ИИ, тот победит во всем». Одни страны делают ставку на собственные, независимые от чужих правил технологические экосистемы под лозунгом «цифрового суверенитета». Другие опасаются, что чрезмерная осторожность внутри одной страны или блока просто передаст лидерство тем, кто торопиться не станет. Даже в самой отрасли раздаются призывы к переменам: один из представителей крупной компании-разработчика недавно публично признал, что индустрии, возможно, нужна принципиально новая, более серьезная глава в отношениях с государством, – и всё же большинство крупных игроков расходятся во мнениях, какой именно эта глава должна быть. Глава Nvidia Дженсен Хуанг пошел на открытую конфронтацию с коллегами по цеху. В интервью CBS он заявил, что призывы к регулированию со стороны глав лабораторий ИИ «неискренни». «Они на самом деле не просят больше законов. Они просят освободить их от законов, которые у нас уже есть», – сказал Хуанг, добавив, что у этих призывов есть «скрытые мотивы».
Четвертый аргумент – практический. Евросоюз, Соединенные Штаты, Китай и Россия уже приняли или готовят разные, порой противоречащие друг другу правила. Компании, которые честно пытаются соблюдать закон, вынуждены разбираться в десятках требований сразу, тогда как недобросовестные игроки попросту переносят разработку туда, где правил почти нет. Получается, предупреждают скептики, что от жестких запретов в итоге страдают не нарушители, а как раз те, кто старается играть по правилам.
Почему не получится выбрать одну сторону?
Соблазн разделить участников спора на два лагеря – или на два блока стран – велик, но реальность устроена куда более запутанно.
Внутри самой индустрии искусственного интеллекта нет единого мнения: одни крупные разработчики публично просят у государств единый обязывающий стандарт с проверками, другие настаивают на более активном участии властей, третьи предлагают более гибкую систему правил в зависимости от риска применения, а разработчики открытых моделей прямо предупреждают, что излишние ограничения ударят по независимым исследователям и небольшим командам, а не по крупным игрокам. Не совпадает водораздел и с географией. Судя по предложениям, поступившим в диалог ООН со всех континентов, правительства почти повсеместно ставят на первое место доступ к технологии и наращивание собственных возможностей, тогда как ученые, техническое сообщество и общественные организации – вне зависимости от страны – куда чаще ставят во главу угла именно безопасность. Спор идет не только между странами, но и внутри каждой из них – между теми, кто технологию использует для управления, и теми, кто ее изучает и создает.
И, пожалуй, точнее всего момент описывает поведение самих людей по всему миру: люди пользуются программами на основе искусственного интеллекта каждый день – и одновременно всё меньше доверяют тому, как эти программы принимают решения. Это не противоречие, а честное описание того, в какой точке мы оказались: технология стала частью повседневной жизни быстрее, чем человечество успело согласовать правила, на которых оно готово ее принять.
При этом кое в чем лагеря неожиданно сходятся. Почти никто – ни в Брюсселе, ни в Пекине, ни в Вашингтоне, ни в Москве – всерьез не спорит с тем, что материалы, созданные искусственным интеллектом, стоит хотя бы помечать, а о серьезных сбоях в работе крупных систем стоит сообщать публично. Больше пятисот из полутора тысяч предложений, поступивших в диалог ООН, вообще были не о содержании правил, а о том, чтобы сами переговоры продолжались и дальше. Разногласия начинаются не с вопроса «нужна ли прозрачность», а с вопросов гораздо более практических: насколько дорогой ценой ее обеспечивать и кто в итоге получит право решать, где заканчивается разумная осторожность и начинается упущенная возможность.
Вопрос, который в итоге достанется решать не только столицам
Как бы ни завершился спор в Брюсселе, Вашингтоне или Пекине, значительная часть решений всё равно ляжет на города и региональные власти по всему миру: именно им предстоит объяснять жителям, почему алгоритм отказал в льготе, разбирать жалобы на школьного чат-бота или решать, какие городские службы вообще стоит доверять программе, а не живому сотруднику.
Однако главный вопрос остается пока без ответа: можно ли вообще эффективно регулировать технологию, которая развивается быстрее, чем регуляторы успевают ее понять? Регулирование работает лучше всего, когда регулятор понимает, что именно он регулирует. В случае с ИИ это не так.
Поэтому спор об ограничении искусственного интеллекта – это не абстрактная дискуссия где-то далеко в переговорных залах. Рано или поздно он придет в форме конкретного вопроса на собрании городского совета, в родительском чате школы или в разговоре с сотрудником банка – в любой стране. И тогда окажется, что готовность его обсуждать, а не откладывать, касается каждого жителя ничуть не меньше, чем дипломатов и генеральных директоров.
Иван ЕФРЕМОВ
