«Нужно самым серьезным образом и постоянно совершенствовать, донастраивать механизмы обеспечения информационной безопасности отраслевых критически важных объектов, от которых напрямую зависят обороноспособность нашей страны, стабильное развит экономической и социальной сферы»

В.В. Путин[1]

13 июня Владимир Путин подписал Федеральный закон «О внесении изменения в статью 104¹ Уголовного кодекса Российской Федерации». Федеральный закон направлен на повышение эффективности мер по противодействию преступлениям в сфере компьютерной информации[2].

В этих целях Федеральным законом в Уголовный кодекс Российской Федерации вносится изменение, предусматривающее конфискацию имущества, полученного в результате совершения преступлений в сфере компьютерной информации[3].

Справочно. Конфискация имущества есть принудительное безвозмездное изъятие и обращение в собственность государства на основании обвинительного приговора.

В Уголовном законе есть отдельная глава 28 «Преступления в сфере компьютерной информации».

УК РФ предусмотрена уголовная ответственность за:

- Неправомерный доступ к компьютерной информации (ст. 272);

- Создание, использование и распространение вредоносных компьютерных программ (ст. 273);

- Нарушение правил эксплуатации средств хранения, обработки или передачи компьютерной информации и информационно-телекоммуникационных сетей (ст. 274);

- Неправомерное воздействие на критическую информационную инфраструктуру Российской Федерации (ст. 274¹) (введена Федеральным законом от 26.07.2017 № 194-ФЗ);

- Нарушение правил централизованного управления техническими средствами противодействия угрозам устойчивости, безопасности и целостности функционирования на территории Российской Федерации информационно-телекоммуникационной сети "Интернет" и сети связи общего пользования (ст. 274²) (введена Федеральным законом от 14.07.2022 № 260-ФЗ).

Во всем мире в первой половине года утекло около трех миллиардов записей персональных данных и платежной информации. Более 80 процентов утечек информации спровоцированы хакерскими атаками. Число фишинговых атак выросло в полтора раза. Такие данные были озвучены 14 июня в ходе заседания экспертного Клуба имени Д.Н. Замятнина[4].

Так, 13 июня Роскомнадзор сообщила о проверке в связи с утечкой персональных данных клиентов компании Gloria Jeans.

В пресс-службе Роскомнадзора подчеркнули, что оператор уведомил ведомство об инциденте в соответствии с законодательством. Ранее в Telegram-каналах сообщалось, что 13 июня утечка персональных данных коснулась компании Gloria Jeans. В доступ были выложены текстовые файлы, содержащие фрагменты дампа базы, предположительно, сайта gloria-jeans.ru[5].

Аналогичная утечка данных произошла 13 июня интернет-аптеки «Вита», которая проверяется ведомством[6].

С позиции обеспечения государственной безопасности, отметим, что 14 июня Госдума приняла в первом чтении два законопроекта, позволяющие удалять данные о военных объектах из Единого государственного реестра недвижимости (ЕГРН). Это снизит риск утечки информации в случае кибератаки на реестр, заявил статс-секретарь и заместитель руководителя Росреестра Алексей Бутовецкий.

«В публичном доступе этой информации не будет ни в одном реестре. Сосредоточение этой информации в одном реестре создает прямую угрозу при взломе. Например, за прошлый год на Единый государственный реестр недвижимости было совершено 150 млн кибератак. Атаки продолжаются», – добавил замглавы ведомства.

По другим режимным объектам, согласно проекту закона, в ЕГРН будут вносить только отдельные сведения, которые не приведут к раскрытию государственной тайны, например: вид разрешенного использования объекта, его назначение или наименование правообладателя[7].

«Новые технологии, которые разрабатываются как благо для всего человечества, могут быть использованы в разрушительных целях».

Генри Киссинджер[8]

В Государственной Думе 15 июня состоялось очередное заседание Комиссии по расследованию фактов вмешательства иностранных государств во внутренние дела России на тему «О государственном контроле за соблюдением законодательства об иностранных агентах».

Председатель Комиссии Василий Пискарев сообщил, что депутатами выявлен ряд пробелов в законодательстве об иноагентах. Так, различные информационные площадки и маркетплейсы размещают информацию об иностранных агентах и их продукции без соответствующей маркировки. Речь идет, например, о продаже книг и другой информационной продукции иноагентов без маркировки[9].

«В настоящее время отсутствуют правовые механизмы пресечения подобной деятельности, позволяющей распространять информационные материалы иноагентов с нарушением требований законодательства. Очевидно, что этот пробел необходимо устранить», — сказал Василий Пискарев.

Законодательство сейчас не предусматривает мер реагирования в отношении тех, кто содействует иноагентам в несоблюдении ими предусмотренных законом обязанностей и ограничений. Законопроект, устраняющий правовой пробел, находится на рассмотрении ГД, уточнил парламентарий.

Основные доноры иностранных агентов — США, Великобритания и Германия, сообщил заместитель Министра юстиции Олег Свириденко на заседании Комиссии.

По его словам, в 2022 году на счета 35 некоммерческих организаций, входящих в реестр иноагентов, поступило из‑за рубежом более 700 млн рублей. Подсчитать удалось только прямые платежи. «Основные иностранные доноры НКО в 2022 году: США — 269,6 млн рублей, Великобритания — 89,3 млн рублей, Германия — 64,2 млн рублей», — сказал Олег Свириденко.

На конец 2022 года в реестре иноагентов было 515 организаций и физлиц, из которых 347 являлись действующими, в том числе 63 НКО, 35 российских компаний, 14 общественных объединений без юрлица, 12 иностранных компаний, восемь иностранных структур без образования юрлица. Также в реестре оказались 213 физлиц, сообщил заместитель Министра[10].

Ранее Госдума одобрила в первом чтении законопроект о блокировке сайтов по сбору средств для ВСУ. «Пропаганда и продвижение в российском сегменте Интернета ресурсов, которые собирают средства для поддержки противника и оказывают иную помощь вооруженным формированиям Украины, является прямым вмешательством в нашим внутренние дела, не говоря уже о моральной стороне этой деятельности», – приводятся слова Пискарева в Telegram-канале думской комиссии.

Ответственность за такую поддержку наших врагов уже предусмотрена ст. 275 УК РФ («Государственная измена»). Она содержит запрет на оказание финансовой и материально-технической помощи иностранному государству, направленной против безопасности нашей страны и предусматривает ответственность вплоть до пожизненного лишения свободы.

«Комиссией выявлено, что информацию о сборе средств в поддержку ВСУ активно распространяют зарубежные СМИ и неправительственные организации (НПО), в том числе признанные нежелательными на территории России (из Канады, США, Бельгии, Венгрии, Англии, Германии и др. стран)», – добавили Пискарев.

Он уточнил, что ими публикуются реквизиты для пожертвований на покупку беспилотников, приборов ночного видения, топлива, бронежилетов, касок и др. снаряжения). Распространяются инструкции по безопасному переводу из России средств для ВСУ и контакты получателей – украинских фондов и организаций. Такой деятельностью, в частности, занимается немецкая НПО «Декабристы». По материалам Комиссии данная НПО признана нежелательной на территории России.

В условиях проведения Специальной военной операции распространение в Интернете информации с предложением финансирования противника представляет реальную угрозу безопасности и требует безотлагательного принятия мер реагирования. В связи с этим наш законопроект предусматривает изменения ФЗ «Об информации, информационных технологиях и защите информации», согласно которым Генеральный прокурор РФ и его заместители получат полномочия обращаться в Роскомнадзор для оперативной блокировки подобных публикаций.

«Полагаем также возможным предусмотреть поправкой блокировку информации не только о финансировании противника, но и о любой иной его материально-технической поддержке», – заключил Пискарев[11].

Россия имеет огромные ресурсы и возможности для защиты в информационной войне, развязанной против нее Западом, они пока не использованы даже наполовину. Такое мнение высказал 15 июня глава комитета Госдумы по информационной политике, информационным технологиям и связи Александр Хинштейн в ходе делового завтрака в рамках Петербургского международного экономического форума (ПМЭФ).

«Как нам защититься в этой информационной войне и какие ресурсы развития есть у отечественной IT-отрасли и информационно-медийной сферы? Считаю, что эти ресурсы огромны и мы их не используем еще и наполовину», - сказал Хинштейн.

Он напомнил, что до начала специальной военной операции РФ на Украине развитие этих отраслей шло в общем мировом тренде экспансии IT-гигантов. Сейчас, по словам Хинштейна, Россия наверстывает упущенное. «В 2019 году начали реализовывать так называемый безопасный Рунет. Нас обвиняли в том, что мы пытаемся изолироваться от мира, пытаемся создать северокорейскую и китайскую модель. Прошло время и оказалось, что мы были правы. Сегодня создан эффективно работающий механизм, который позволяет блокировать негативный трафик и не допускать до нашей аудитории откровенно негативную информацию, фейки, с которыми сегодня идет борьба, на мой взгляд, достаточно эффективно», - сказал Хинштейн.

По его мнению, сегодня необходимо форсированно развивать собственные ресурсы. «Мы понимаем, что каналы распространения информации сегодня кардинально отличаются от наших традиционных представлений, сегодня социальные сети по охвату, скорости и оперативности распространения информации обходят традиционные СМИ. <...> Поэтому сегодня идет активное развитие сети "ВКонтакте", которая становится основной отечественной платформой и по количеству аудитории сегодня бьет все рекорды», - сказал Хинштейн, добавив, что наблюдается значительный отток аудитории из запрещенных или ограниченных в России соцсетей.

Парламентарий считает, что еще один способ борьбы с фейками – «максимально понятная и прозрачная информационная политика». "Фейки, различные злоупотребления доверием людей, появляются там, где не достает информации. <...> Там, где есть вакуум, появляется всегда недосказанность. Эту недосказанность нам надо перекрывать и не боясь говорить какие-то вещи, которые поначалу могут быть не совсем приятными», - сказал Хинштейн[12].

По данным, обнародованным 15 июня, Банк России утвердил Основные направления развития информационной безопасности кредитно-финансовой сферы на 2023–2025 годы.

Стратегический документ, который утвержден Советом директоров Банка России, в значительной степени посвящен защите прав потребителей финансовых услуг и повышению уровня доверия к цифровым технологиям.

Для противодействия мошенническим операциям регулятор намерен усовершенствовать механизм возврата похищенных денег. Планируется повысить качество сведений о платежных реквизитах злоумышленников в информационном обмене между банками, противостоять так называемым дропперам с помощью экономических барьеров. Будет введен самозапрет на выдачу онлайн-кредитов и займов и ужесточены требования к проверке потенциального заемщика до одобрения кредитной заявки. Также Банк России собирается привлечь к борьбе с телефонным мошенничеством операторов связи и наладить между ними и банками обмен информацией об абонентах.

Кроме того, Банк России предлагает предоставить пострадавшим от злоумышленников возможность подать через портал «Госуслуги» и онлайн-сервисы банков заявление в полицию о хищении. Это позволит быстрее сообщать о мошенниках в правоохранительные органы, а банки смогут оперативно учитывать такую информацию в своих антифрод-системах. Будет расширен и усложнен сценарий атак для киберучений, которые регулятор проводит с банками ежегодно с 2019 года.

Уделяется внимание переходу финансовых организаций на отечественные информационные технологии, регулятор будет контролировать этот процесс (соответствующий закон подписан 13 июня 2023 года). Банк России продолжит формировать условия для безопасного внедрения цифровых и платежных технологий путем развития регулирования и иных механизмов, а также определения стандартов информационной безопасности.

При подготовке документа учтены предложения, поступившие после его общественного обсуждения с финансовыми организациями[13].

В частности, разработчиками было указано, В 2022 году объем операций без согласия клиентов увеличился по сравнению с 2021 годом (+4,29%) и составил 14 165,44 млн рублей. Рост происходил на фоне активного развития новых дистанционных платежных и финансовых сервисов, а также увеличения (+39%, до 1458,6 трлн руб.) объема денежных переводов с использованием электронных средств платежа. Благодаря расширению комплекса мер, которые банки принимают для противодействия мошенничеству, количество операций без согласия клиентов в 2022 году снизилось по сравнению с 2021 годом (-15,31%) и составило 876,59 тыс. единиц.

В  2022  году доля объема операций без согласия клиентов в  общем объеме операций по переводу денежных средств составила 0,00097% (в 2021 году – 0,00130%). Эти значения не превышают как установленный Банком России целевой показатель доли таких операций в  общем объеме операций (0,005%), совершенных с  использованием платежных карт, так и аналогичный показатель Европейской службы банковского надзора (EBA)[14] .

Как показывают результаты анализа, существенная доля хищений совершается в результате использования мошенниками приемов и методов социальной инженерии, то есть манипулирования людьми с целью получения личных и финансовых данных. Вместе с тем доля таких хищений увеличилась на 1% по сравнению с 2021 годом и составляет 50,4%.

В рамках противодействия совершению операций без согласия клиентов, социальной инженерии планируется реализовать следующие мероприятия:

• Совершенствование механизмов сохранения и возврата денежных средств в части:

‒ возврата денежных средств с учетом фактических значений показателей и критериев эффективности антифрод-процедур в кредитных организациях;

‒ ограничения удаленного доступа к электронным средствам платежа;

‒ повышения качества антифрод-процедур в кредитных организациях;

‒ снижения рисков манипулирования процедурой возврата денежных средств со стороны клиентов;

‒ противодействия дропперам (создание условий, при которых экономически нецелесообразно и невыгодно совершать хищения денежных средств);

‒ повышения качества заполняемости сведений о  реквизитах получателей денежных средств по операциям без согласия клиентов.

• Информационный обмен с МВД России сведениями из базы данных о случаях и попытках осуществления переводов денежных средств без согласия клиентов. Предусматривается совершенствование оперативного взаимодействия и обмена информацией, имеющейся в распоряжении Банка России и МВД России, координация работ по выявлению цепочек вывода денежных средств, а также реализация механизма ограничения банками доступа к счетам, если информация об операциях содержится в базах данных Банка России и МВД России о совершенных противоправных действиях.

Дополнительно планируется проработать вопрос повышения качества информации из базы данных Банка России (фидов) с учетом следующих подходов:

‒ автоматизация и онлайн-обработка запросов на исключение из базы данных Банка России (фидов);

‒ учет результатов, связанных с оценкой кредитными организациями информации из базы данных Банка России (фидов) при рассмотрении обращений по операциям без согласия клиентов;

‒ развитие централизованных сервисов дистрибуции данных по атрибуции, вовлеченных в  осуществление операций без согласия клиентов (фидов), до  уровня сервисов репутации по хозяйствующим субъектам с учетом данных, содержащихся в инфраструктуре операционных центров операторов платежных систем;

 ‒ интеграция цифровых отпечатков устройств в состав данных об операциях без согласия клиентов (фидов) и другие средства и механизмы.

В рамках направления по противодействию компьютерным атакам планируется реализовать следующее:

• Формирование и  совершенствование информационного обмена между Банком России и  финансовыми организациями по  тактике, технике совершения компьютерных атак. Это необходимо в том числе для целей формирования сценариев проведения киберучений, сокращения времени реагирования на  компьютерные атаки. Чтобы повысить эффективность реагирования на компьютерные атаки, цепочки компьютерных атак и качество расследования киберинцидентов, планируется дальнейшее развитие информационного взаимодействия ФинЦЕРТ с организациями кредитно-финансовой сферы. Для этого будет проведена доработка форм и порядка обмена информацией о случаях и попытках осуществления переводов денежных средств без согласия клиентов.

Планируется продолжить дорабатывать техническую инфраструктуру ФинЦЕРТ, используемую для информирования участников кредитно-финансовой сферы, в целях реализации новых подходов к форме предоставления данных. Это позволит повысить скорость взаимодействия и своевременно (в том числе превентивно) реагировать на компьютерные атаки.

Кроме того, предусмотрена разработка алгоритмов формирования информационных бюллетеней ФинЦЕРТ и сценариев атак для киберучений и др.

В рамках мероприятий по развитию финансовой киберграмотности планируется реализовать:

• Программы по повышению финансовой киберграмотности и пропаганде кибергигиены для различных категорий населения, в том числе для лиц с низким уровнем дохода и социально незащищенных категорий населения. В рамках обеспечения возможности безопасного получения финансовых услуг Банк России планирует уделять особое внимание формированию и продвижению базовых навыков и установок по финансовой киберграмотности и кибергигиене среди социально уязвимых категорий населения. Для этого будут реализованы как информационно-просветительские, так и образовательные мероприятия с применением современных педагогических технологий и форматов продуктивного, дифференцированного обучения, а также с реализацией компетентностного подхода и развивающего обучения.

Развитие кадрового потенциала, в частности включение подрастающего и старшего поколений в информационно-просветительскую и образовательную работу, потребует разработки образовательного контента и привлечения добровольцев финансовой киберграмотности и кибергигиены. Это позволит сформировать сеть социальных контактов для продвижения базовых навыков и установок по финансовой киберграмотности и кибергигиене среди целевых категорий населения.

Разработку информационно-просветительского контента по информированию граждан о мошеннических схемах и лицах, их применяющих, Банк России планирует строить на основе анализа данных. Для этого будет осуществлен переход к системному использованию методов продвинутой аналитики данных об инцидентах защиты информации и результатах их расследования.

• Применение Единой рамки компетенций по  финансовой грамотности (далее – Единая рамка) в вопросах повышения финансовой киберграмотности и кибергигиены. Единая рамка содержит базовые компетенции по финансовой грамотности для учащихся школьного возраста (от 15 лет), взрослого населения и является основой для развития различных инструментов повышения финансовой грамотности (включая вопросы финансовой киберграмотности и кибергигиены): образовательные программы, программы дополнительного образования, олимпиады и так далее. Единая рамка описывает общие разделы и образовательные результаты по темам на двух уровнях: базовом и продвинутом.

• Усиление финансовыми организациями информационной работы, направленной на повышение осмотрительности клиентов в отношении сохранности личных и финансовых данных. Планируется расширить использование кредитными организациями инструментов информационной работы, направленных на повышение осмотрительности их клиентов при совершении финансовых операций, в том числе переводов денежных средств.

С  учетом анализа поведенческого опыта получателей финансовых услуг будут актуализированы и  при необходимости нормативно закреплены новые подходы к  доведению до клиентов – получателей финансовых услуг информации о возможных рисках несанкционированного доступа к личной и финансовой информации, а также совершения операций без согласия клиентов с использованием методов социальной инженерии.

Банк России планирует сформировать условия для обеспечения информационной безопасности и киберустойчивости цифровых и платежных технологий через регулирование и последующий надзор по следующим приоритетным направлениям:

•  цифровой профиль;

•  маркетплейс;

•  открытые интерфейсы на финансовом рынке (Open API), открытые банковские интерфейсы в национальной платежной системе, а также интерфейсы небанковских поставщиков платежных услуг;

•  электронное хранение документов;

•  экосистемы;

•  Единая информационная система проверки сведений об абоненте (ЕИС ПСА);

•  обеспечение информационной безопасности для новых способов инициирования платежей и переводов (смарт-устройства и другие);

•  Единая биометрическая система и коммерческие биометрические системы;

•  новые субъекты национальной платежной системы (небанковские поставщики платежных услуг и другие);

•  оборот данных организаций кредитно-финансовой сферы в части их информационной безопасности, включая целостность;

•  среда доверия при удаленном предоставлении финансовых услуг и программ для реализации протоколов информационной безопасности.

Регулятор продолжит формировать условия для внедрения инновационных продуктов и сервисов с учетом поддержания среды доверия между участниками платежной отрасли за счет определения стандартов информационной безопасности, обеспечивающих непрерывность осуществления переводов денежных средств, доступность платежных сервисов, а также снижение потерь участников финансового рынка от действий мошенников, включая социальную инженерию.

Приоритетными направлениями являются:

•  развитие стандартов информационной безопасности, обеспечивающих расширение доступа к платежной системе Банка России, в том числе нерезидентов;

•  развитие Системы быстрых платежей (СБП) в части: ‒ внедрения механизмов информационной безопасности для интероперабельности СБП, в том числе интеграция национальных СБП государств − членов ЕАЭС с российской СБП; ‒ расширения доступа к СБП, в том числе нерезидентов; ‒ развития системы управления рисками информационной безопасности; ‒ обеспечения информационной безопасности и  надежности мобильного приложения СБПэй;

•  развитие Системы передачи финансовых сообщений (СПФС) по следующим направлениям: ‒ совершенствование стандартов информационной безопасности, обеспечивающих расширение участия нерезидентов; ‒ обеспечение информационной безопасности при внедрении новых сервисов в СПФС; ‒ развитие института сервис-бюро в части механизмов информационной безопасности; ‒ реализация интернет-доступа к СПФС; ‒ поддержка стандартов ИБ ISO 20022 в СПФС.

В целях развития трансграничных платежей в национальной валюте, повышения роли российского рубля и его продвижения за пределами Российской Федерации, а также поддержки экспорта платежных услуг в другие страны Банк России планирует развивать вопросы информационной безопасности и киберустойчивости для доступа к сервисам платежной системы Банка России, СБП, СПФС банкам стран ЕАЭС и иным организациям − нерезидентам Российской Федерации.

•  Цифровой рубль:

‒ определение требований к защите информации, предъявляемых к участникам платформы цифрового рубля, и сопровождение участников платформы цифрового рубля по вопросам обеспечения информационной безопасности;

‒ создание правовой и организационной основы для выстраивания механизмов оценки соответствия, контроля устойчивости к актуальным угрозам и тестирования применяемых технологий, алгоритмов, технических и программных средств в части вопросов информационной безопасности;

‒ развитие антифрод-механизмов (мониторинг операций с целью выявления аномалий, указывающих на возможные мошеннические действия, а также компрометацию участников платформы цифрового рубля) с учетом специфики операций в цифровых рублях.

В ходе мероприятий по развитию RegTech- и SupTech-проектов планируется реализовать следующее:

• Совершенствование системы внешнего аудита информационной безопасности. Обеспечение качества оценки соответствия защиты информации в организациях кредитно-финансовой сферы определено в составе инициативы в рамках Основных направлений развития технологий SupTech и RegTech на период 2021–2023 годов.

При разработке концепции совершенствования системы внешнего аудита информационной безопасности планируется проработать вопрос создания дополнительных правовых механизмов повышения качества оценки соответствия защиты информации в организациях кредитно-финансовой сферы и роста качества услуг проверяющих организаций. Данные механизмы будут использованы при формировании требований к обеспечению достоверности результатов внешнего аудита посредством привлечения к нему проверяющих организаций, имеющих подтверждение соответствия их деятельности национальным стандартам, идентичным международным.

Систему внешнего аудита планируется реализовать в отношении:

‒ аудита по вопросам защиты информации и операционной надежности;

‒ аудита поставщиков облачных сервисов;

‒ аудита безопасности приложений.

Документом также предусмотрены другие структурированные модели защиты информации[15].

Напомним, что 13 июня Президент подписал Федеральный закон «О внесении изменений в Федеральный закон «О Центральном банке Российской Федерации (Банке России)»[16].

В соответствии с документом Банк России наделён полномочиями по согласованию планов мероприятий кредитных и некредитных финансовых организаций по переходу на преимущественное использование российского программного обеспечения, отечественных радиоэлектронной продукции и телекоммуникационного оборудования, в том числе в составе программно-аппаратных комплексов, на принадлежащих им значимых объектах критической информационной инфраструктуры, а также полномочием по контролю за соблюдением реализации указанных планов и осуществления закупок иностранного программного обеспечения и связанных с ним услуг[17].

«Искусственный интеллект (ИИ) мог бы принимать некоторые решения в сфере государственного управления»

Герман Греф[18]

Искусственный интеллект (ИИ) не может составить конкуренцию человеческому мозгу, а все опасения по поводу того, что он может выйти из-под контроля и восстать против человечества, связаны с путаницей понятий, заявил 15 июня член жюри премии «Искусный интеллект 2023», управляющий директор ассоциации «НП РТС» Максим Волков.

«Что касается стремления к безграничной власти, то это также невозможно. У машины нет амбиций и собственных желаний, она может выполнять только заданную функцию. К 2019 году было предусмотрено три режима работы «умных машин»: автоматический, полуавтоматический и автономный. Автономный робот, он же искусственный интеллект, выполняет задачу без внешнего воздействия человека, но это не означает свободу действий — они всегда заранее запрограммированы», — добавил эксперт.

Также он обратил внимание, что искусственный интеллект управляется оператором во избежание ошибок и не является полностью бесконтрольным. Его видимая самостоятельность действий представляет собой лишь имитацию принятия решений на основе ожидаемых вариантов и при необходимости выключается[19].

В экономике, по мнению премьер-министра Михаила Мишустина, внедрение ИИ составляет 20%, а к 2024 году власти рассчитывают довести показатель минимум до 50%. По его словам, в 2021–2024-м на развитие сферы ИИ будет выделено 28 млрд руб.[20].

Отметим, что накануне Европарламент одобрил закон об искусственном интеллекте (ИИ)

Как следует из пресс-релиза на сайте Европарламента[21] за принятие документа проголосовали 499 депутатов, против — 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС. Документ исходит из важности сохранения человеческого контроля за ИИ и запрета на использование опасных для человека систем. К ним относят те, что используют методы манипулирования или предназначаются для социальной оценки людей (их классификации по разным критериям: поведению, социальному статусу и личностным характеристикам).

Правовой акт введёт запрет распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение сделают для расследования тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда. Системы распознавания эмоций людей нельзя будет использовать правоохранительным органам, любым работодателям, учебным заведениям и органам пограничного контроля. Отдельно оговаривается запрет прогностических систем полиции — это механизм, который использует ИИ для анализа больших объемов данных (фактов биографии человека, его местах нахождения или совершенных ранее преступлений) и выявляет потенциальных преступников или жертв преступлений. 

Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети). К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде. Еще в эту категорию включили системы, оказывающие влияние на мнение избирателей в политических кампаниях, и рекомендательные алгоритмы, которые используют социальные сети более чем с 45 млн пользователей.

Закон предусматривает требования к разработчикам нейросетей. В работе они должны не допускать генерацию нелегального контента и сообщать о материалах, которые используют для обучения системы. Обладатели авторских прав на такие материалы могут подать иск, если выяснят, что разработчик незаконно обучал нейросеть на их контенте. Системы должны информировать пользователей о том, что данный контент сгенерировала нейросеть.

Нарушителям нового закона будет грозить штраф до €10 млн и запрет на работу в Евросоюзе. Исключение сделают для исследователей искусственного интеллекта, чтобы поощрить инновации в области ИИ[22].

Аналитики издания Bloomberg в обнародованном 15 июня расследовании утверждают, что внезапное доминирование Microsoft в области искусственного интеллекта разрушает структуру власти Кремниевой долины

Компания незаметно загнала в угол развивающийся рынок программного обеспечения и готовится нажиться[23].