В мажилисе началось обсуждение законопроекта об искусственном интеллекте. Тема новая и очень важная, так что вопросов по ней возникает немало.

Документ коллегам представила секретарь мажилисовского комитета по экономической реформе и региональному развитию Екатерина СМЫШЛЯЕВА. Она сразу подчеркнула, что проект закона об искусственном интеллекте преследует единственную цель - создать прозрачную и эффективную правовую базу для внедрения этих технологий в нашу экономику.

Звучало это, в сущности, как “ничего личного, только бизнес”, но загвоздка как раз в том, что личного, человеческого, в этом деле очень много.

- Ещё буквально два-три года назад ни одна юрисдикция мира не планировала и старалась не касаться вопросов регулирования на законодательном уровне технологий искусственного интеллекта, - сказала депутат. - А сегодня идёт большая технологическая гонка. И мы видим, как каждая страна хочет создать максимально комфортные условия для технологий, чтобы быть в каких-то вопросах первой. Однако на сегодняшний день у нас наступил побочный эффект от стремительного развития технологий. Начали возникать вопросы авторского права, безопас­ности, вопросы долгосрочного инвестирования в отрасль и так далее.

По её словам, на данный момент самый большой и проработанный акт регулирования искусственного интеллекта - европейский акт. По сути, пока это единственный документ в мире, который представляет собой свод норм по вопросам регулирования искусственного интеллекта. Так что Казахстан, если только мажилис оперативно и эффективно отработает свой проект закона, может стать второй юрисдикцией мира, где будет действовать отдельный закон, который посвящен вопросам искусственного интеллекта.

Предлагаемый проект закона содержит 7 глав и 27 статей. Они регулируют общественные отношения в сфере искусственного интеллекта, но, как заметила Смышляева, в цифровом законодательстве разработчики постарались соблюсти принцип технологической нейтральности, то есть не посвящать нормы отдельным технологиям.

- Но в данном случае технология настолько особенная, что порождает вокруг себя особый тип общественных отношений, - констатировала она. - Соответственно, их мы и планируем регулировать.

Первый принцип, на котором настаивают авторы законопроекта, - это прозрачность и объяснимость, он касается непосредственно деятельности искусственного интеллекта, его алгоритмов и тех данных, на которых он на сегодняшний день обучается.

Второй момент - это приоритет благополучия человека перед технологией. Иначе говоря, там, где нужно будет ограничивать развитие бурной технологии ради безопасности или блага человека, эти ограничения появятся.

- Сегодня за правительством Казахстана, и законопроект это закрепляет, остаются основные направления политики, госполитики в сфере искусственного интеллекта, - сказала Смышляева. - Кроме того, за правительством уже сегодня закреплена политика в области управления данными. Кстати говоря, некоторые страны до сих пор делают ставку исключительно на технологии саморегулирования в сфере ИИ. Однако мы пошли немножко по другому пути, мы всё-таки опираемся на государственное регулирование в этой сфере.

- Вместе с тем в рыночных и частных решениях, безусловно, саморегулирование останется. Это регулирование рынка, всевозможная этика и так далее, - продолжила парламентарий. - И второй момент - это корпоративные стандарты, которые сегодня крупные корпорации разрабатывают внутри самостоятельно и которые иногда намного жестче наших законов по той простой причине, что каждый производитель и каждый ответственный за технологию искусственного интеллекта, безусловно, тоже переживает, чтобы эта технология не принесла вред, чтобы она работала эффективно. Ну и, конечно, базовыми будут в этом вопросе правоохранительные контролирующие органы, которые будут отвечать непосредственно за национальную безопас­ность, безопасность данных, информационную безопасность и права человека.

Но что конкретно предусмотрено в проекте закона? Во-первых, классификация системы искусственного интеллекта. Их в законе даже две, но базовая - это классификация по уровням риска: высокий, средний и низкий. Системы низкого риска на сегодняшний день регуляторов не особенно интересуют, поэтому они будут развиваться в рынке. А вот системы среднего и высокого риска необходимо будет регулировать.

- Системы высокого риска - это, как правило, системы, которые связаны с жизнью и здоровьем человека, госуправлением и принятием решений, - пояснила депутат.

Вторая классификация связана с автономностью системы искусственного интеллекта. Сегодня их технологически можно разделить условно на три группы. Это полностью автономные системы, полуавтономные и полностью зависимые, то есть системы управляемые. На данный момент полностью автономных систем нет, но тенденции указывают на то, что этот продукт станет критически важным в самых разных отраслях. Поэтому уже сейчас важно на законо­дательном уровне обеспечить безопасность таких систем.

- Законопроект устанавливает требования к владельцам и разработчикам ИИ о том, что они должны предупреждать пользователей, что те имеют дело с технологией искусственного интеллекта, - отметила Смышляева. - Ну, когда этот вопрос связан, например, с разговором с ботом, или с потреблением какой-либо информации, разработанной искусственным интеллектом, или с принятым решением. Вот в таких случаях пользователь должен знать, что он имеет дело с искусственным интеллектом. Однако у этой медали тоже две стороны, и нам придётся на рабочих группах по этому поводу выстроить конструктивное обсуждение. Потому что далеко не все продукты можно и нужно маркировать, по большому счету потому, что их объём на сегодняшний день становится просто колоссальным.

Обсуждение именно этого момента началось сразу же.

Депутат Елнур БЕЙСЕНБАЕВ высказал опасение, что искусственный интеллект все активнее будет использоваться мошенниками, что необходимо учесть в законопроекте.

- Даже это моё выступление могут исказить, наложить любой тезис с моим голосом и использовать, - выразил опасение мажилисмен. - Этот момент тоже нужно будет законодательно учесть и как-то чёткие границы определить. Далее: сейчас очень много распространяется контента в соцсетях. Там какие-то видеоформаты делаются, и ты не можешь определить, это искусственный интеллект делал или человек. Например, распространилось очень много песен, и все считают, что их авторами являются композиторы. На самом деле это не так - ИИ сочинил. Кто и как будет авторские права определять в таких случаях?

На это Екатерина Смышляева признала, что данные проблемы, увы, не миф, не будущее, а вполне себе реальность.

- Базовый вопрос ответственности в законопроекте обозначен, но, я полагаю, с учетом отраслевых вопросов мы будем его детализировать, потому что он достаточно широкий, - за­явила она. - По вопросу авторских прав... В законопроекте тоже начато регулирование, но пока только такого, отсылочного рода. Поэтому тоже будем его обязательно обсуждать. Но в целом наши нормы общего закона об искусственном интеллекте будут привязаны к практическим кейсам.

Ещё одна ощутимая проблема, порожденная развитием ИИ, - отставка большого числа специалистов, которых может заменить электронный мозг.

- По данным, озвученным на Международном экономическом форуме, искусственный интеллект по всему миру заменит порядка 90 миллионов рабочих мест, - заметил Бейсенбаев. - Это, конечно, отразится на рынке труда. Как мы этот вопрос будем регулировать? Я уже несколько раз и депутатские запросы по этому поводу отправлял, что в Казахстане на самом-то деле вопрос безработицы, можно сказать, занижен правительством. Мы все понимаем, что реальная цифра по безработице в Казахстане составляет 12-13 процентов. Это порядка миллиона человек. А если искусственный интеллект заменит некоторые отрасли, то данная ситуация может усугубиться.

- В мировой практике слишком жесткое регулирование искусственного интеллекта ведёт к технологическому отставанию, - развернул разговор в неожиданное русло депутат Мулкаш ИСКАНДИРОВ. - В Европейском союзе, например, принят закон об искусственном интеллекте, который вводит строгие требования к разработке и внедрению технологии. В результате крупные компании рассматривают вопрос переноса своих исследований за пределы Евросоюза. Если регулирование окажется слишком строгим в Казахстане, то компании, конечно, предпочтут разрабатывать искусственный интеллект за рубежом, где меньше барьеров. Насколько обоснованно введение государственного регулирования в сфере искусственного интеллекта у нас в стране?

У Екатерины Смышляевой обнадеживающего ответа на этот вопрос не было. Да, согласилась она, действительно европейский акт об ИИ от 2023 года достаточно жестко регулировал сферу развития искусственного интеллекта. Но хуже того - за два года этот документ устарел. На что сейчас ориентироваться отечественным законотворцам, не очень понятно.

- Это же ненормально, должна быть какая-то стабильность, - развела руками депутат. - Честно вам скажу, стабильности в цифре не будет, потому что технологии развиваются так быстро, что законодатель должен более гибким быть в этом вопросе. Сегодня IT-рынок не привязан к какому-либо производству или месторождению. Он привязан к ноутбуку, рюкзаку и хорошей голове, то есть к разработчику. Перенести тот или иной бизнес из одной страны в другую не составляет никакого труда. И мы видим вот эту миграцию компаний, когда оттуда, где закручивают гайки, фирмы переезжают в ту юрисдикцию, где их регулируют более-менее лояльно. Каждая страна хочет какую-то регуляторную приманку у себя иметь, какой-то такой люфт, который может эти компании, этот рынок, эту экономику на себя затянуть. Это правильно. Но в данном случае важен баланс.

Владислав ШПАКОВ, Астана