Евросоюз готовит законопроект о тотальном контроле за системами на базе искусственного интеллекта
С каждым годом системы машинного обучения становятся все сложнее. Технически называть их «искусственным интеллектом» не совсем корректно, однако для общего удобства именно данный термин является ходовым. Неудивительно, что рост потенциала «электронного мозга» машин и повсеместное внедрение ИИ обеспокоило правителей мировых держав – и, судя по всему, скоро правительство будет жестко контролировать его деятельность.
Планы по регулированию использования систем на базе искусственного интеллекта вынашиваются не первый год. В феврале 2020 года Европейская комиссия уже публиковала официальный документ, в котором были изложены планы регулирования так называемых «высокорисковых» приложений искусственного интеллекта. Но если там речь шла о локальных ограничениях, то, согласно рабочему черновику нового проекта, сейчас законодатели хотят внедрить куда более жесткие и глобальные меры контроля
Какие приложения входят в группу риска? Пока что четкого понимания нет. Все, что связано с оружием и его использованием, специально исключено из списка, поскольку такие варианты использования выходят за рамки договоров ЕС.
Если обобщить внушительный документ, то становится ясно следующее: все, что касается социальной сферы – финансов, найма рабочих, работ государственных учреждений, налогов и судейства – будет ограничено рядом запретов, ограничивающих деятельность ИИ. Другие требования включают в себя обеспечение безопасности и обеспечение стабильной точности работы систем искусственного интеллекта — с условием сообщать о «любых серьезных инцидентах или любом сбое в работе системы ИИ, которое представляет собой нарушение обязательств» надзорному органу не позднее, чем 15 дней после того, как стало известно об этом.
При этом законопроект также предусматривает создание «песочницы» — специальной среды, в которой разработчикам систем на базе ИИ будет предоставлена помощь и финансирование, чтобы их продукты было проще вывести на общемировой рынок. Разумеется, сотрудничать с авторами ПО будут только при условии полного соблюдения мер контроля и «желательных» рекомендаций, призванных сделать ИИ «заслуживающим доверие» и «более ориентированным на человека».
Поможет ли новый регламент в самом деле сделать из искусственного интеллекта идеального помощника для человечества или станет причиной постоянных раздоров между «свободными» разработчиками и государством – покажет лишь время.
В Сеть утекли рабочие черновики ряда законопроектов, призванных ограничить и контролировать все системы, разрабатывающиеся на базе «искусственного интеллекта»