ИИ опасен для всего человечества
Поэтому Евросоюз разработал первый в мире свод правил для создателей искусственного интеллекта
Системы искусственного интеллекта (ИИ) общего назначения должны будут соответствовать базовым требованиям, которые обеспечат прозрачность их работы, сообщило в минувший понедельник агентство Bloomberg со ссылкой на разработанный в Евросоюзе документ о регулировании в этой сфере.
О том, что Брюссель достиг предварительного соглашения по первому в мире закону об ИИ, ранее объявил еврокомиссар Тьерри БРЕТОН.
Искусственный интеллект общего назначения (Artificial General Intelligence, AGI) иногда называется “сильным ИИ”, или “ИИ уровня человека”. Такие модели способны решать широкий спектр интеллектуальных задач и адаптироваться к новым ситуациям. К ним, в частности, относится чат-бот ChatGPT от компании OpenAI.
Как пишет агентство, к базовым требованиям для разработчиков отнесли наличие политики допустимого использования, предоставление актуальных и подробных сведений о данных, на основе которых обучали ИИ, соблюдение авторского права.
Bloomberg отмечает, что требование касается всех моделей ИИ, за исключением систем с открытым исходным кодом, доступ к которым можно получить бесплатно.
К моделям, которые представляют “системные риски” (определять их будут на основе объема вычислительных мощностей, используемых для обучения; в качестве примера такой модели агентство приводит GPT-4 от OpenAi), предъявляются дополнительные требования.
В частности, разработчики должны:
- сообщать об объемах энергопотребления моделей ИИ;
- соответствовать стандартам энергоэффективности (если их разработают);
- оценивать и смягчать возможные системные риски, уведомлять о любых инцидентах;
- использовать адекватные меры кибербезопасности.
Соглашение пока носит предварительный характер, его еще должны одобрить Европейский парламент и 27 стран - членов ЕС, отмечает Bloomberg. Франция и Германия ранее выражали обеспокоенность, что некоторые меры регулирования препятствовали бы развитию ИИ в Европе, в частности французского стартапа Mistral AI или немецкого Aleph Alpha.
Вопрос о необходимости регулирования сервисов искусственного интеллекта изучают и в других странах. Например, в США в конце октября приняли указ о мерах безопасности в связи с развитием систем ИИ. В России на данный момент нет единого документа, который бы полноценно регулировал эту сферу.
rbc.ru
