Этичный интеллект

Принят первый в истории международный документ, регламентирующий развитие AI и этику его применения

ООН анонсировал, что 193 страны подписали исторический документ, направленный на создание правовой инфраструктуры для обеспечения этичного развития технологии искусственного интеллекта (Artificial Intelligence, AI). Это произошло на 41-й сессии генеральной конференции ЮНЕСКО. По сути, утвержден текста документа, который дает начало международной нормативно-правовой базе, регламентирующей развитие AI и этику его применения.

«Принятый нами документ устанавливает первую в мире глобальную нормативную базу и возлагает на государства ответственность за ее применение», – прокомментировала Одри Азуле, генеральный директор ЮНЕСКО. 

В частности, на сессии речь шла о том, что AI помогает бороться с глобальными проблемами, такими как глобальный голод и изменение климата, но в то же время технология «создает беспрецедентные проблемы». Соответственно, нужна международная и национальная политики, нормативно-правовая база, «чтобы эти новые технологии приносили пользу всему человечеству», «нужен AI, ориентированный на человека» и «AI должен служить интересам людей, а не наоборот».

Принятый странами-членами ЮНЕСКО (прим. Украина - в их числе с мая 1954 года) документ называется Recommendation on the Ethics of Artificial Intelligence и один из его основных призывов – защитить данные, выходя за рамки того, что делают технологические фирмы и правительства, чтобы гарантировать людям большую защиту, обеспечивая прозрачность, свободу действий и конфиденциальность данных.

«Мы наблюдаем проявления предубеждений на гендерной и этнической почве, а также нарушения неприкосновенности частной жизни и свобод, опасность массовой слежки и злоупотребление технологией искусственного интеллекта правоохранительными органами, – говорится в заявлении ЮНЕСКО. – Вплоть до недавнего времени не существовало универсальных стандартов, способных ограничить подобные злоупотребления». 

Кроме того, на практике многие пользователи отмечают, что не хотят использовать AI-сервисы только по той причине, что пока они – как «черный ящик» (BlackBox) и непонятно, как данные используются и как AI будет принимать решение.

Документ прямо запрещает использование систем искусственного интеллекта для социальной оценки и массового наблюдения.

В его тексте также перечисляются преимущества AI и подчеркивается, что государства, правительства, приватный сектор должны отдавать предпочтение методам, которые могли бы сделать искусственный интеллект эффективным инструментом в борьбе с экологическими, социальными проблемами. Иными словами – использоваться на благо людей, общества, природы.

Новый международный документ возлагает на государства ответственность за ее применение на национальном уровне. Однако ЮНЕСКО попросит их регулярно отчитываться о своем прогрессе и практике.

Действительно, искусственный интеллект – это и новые возможности, и вызов для изобретателей, бизнеса, IP-юристов, судей, патентных ведомств и правительств. Развитие технологий и их применение сейчас опережают развитие права.

Так, например, до недавнего времени считалось, что AI – лишь инструмент в руках человека. Но уже выданы первые патенты, где изобретателем значится не человек, а машина. Патентное ведомство в Южной Африке фактически легализировало по одной из заявок систему искусственного интеллекта по имени DABUS (A Device for the Autonomous Bootstrapping of Unified Sentience – «Система автономной самонастройки единого сознания»), чем породила в экспертной среде новую волну дискуссий. И по поводу этического характера, и по поводу правового регулирования.

Так может или не может искусственный интеллект считаться изобретателем наравне с человеком? Кто несет ответственность за причиненный вред жизни и здоровью человека в случаях с применением AI? В каких сферах его применение недопустимо или допустимо с соблюдением строгого контроля за его деятельностью?

На сегодняшний день нет единого мнения, единого ответа на эти и подобные вопросы. Но, без сомнений, настало время обсудить на международном уровне будущую политику в сфере искусственного интеллекта. И именно такие рекомендации, а также другие общие для государств документы, которые обеспечат прозрачность, ясность и этичность, дадут новый виток внедрению искусственного интеллекта практически в каждой индустрии и в каждом устройстве, а также подтолкнут к созданию новых сервисов и устройств.