Сингапур повесит этикетки на ИИ-продукты

Первая в мире система прозрачности ИИ.

Денис БородовскийАвтор новостей

Сингапур стал первой страной в мире, которая намерена обязать технологические компании маркировать приложения с искусственным интеллектом специальными информационными этикетками — по аналогии с пищевой ценностью на продуктах. Министр цифрового развития и информации Джозефин Тео заявила Reuters, что этикетки будут описывать предполагаемое использование продукта, его ограничения и разделять «правильные» и «не совсем правильные» способы применения ИИ.

Сингапур начнет с добровольной системы, затем оценит эффективность и примет решение о следующих шагах. Параллельно страна разрабатывает системы тестирования и аккредитует организации для оценки ИИ-продуктов. Это часть стратегии превращения Сингапура в нейтральный хаб для ИИ-индустрии — уже объявлено о создании первой лаборатории OpenAI за пределами США и партнерстве Google DeepMind в образовании, здравоохранении и науке.

Как на упаковке продуктов указаны калории и белки, так и ИИ-продукты получат маркировку, раскрывающую их «потребительские свойства». По словам Тео, этикетки будут информировать пользователей о:

• Предполагаемом использовании (для каких задач предназначен ИИ);
• Ограничениях (где может ошибаться, при каких условиях неэффективен);
• «Правильных» и «неправильных» сценариях применения (например, чат-бот для консультаций, а не для медицинской диагностики).

Регулятор оценит, насколько такие маркировки снижают риски злоупотребления ИИ (дезинформация, дискриминация, утечка данных) и повышают прозрачность. После чего возможно введение обязательных требований.

Министр Тео также объявила о планах внедрить ИИ в 10 000 компаний и расширить его использование в производстве, медицине и финансах. Город-государство становится технологическим «швейцарским ножом» и выступает в роли «песочницы» для ИИ-регулирования. Если система признается успешной, другие страны (особенно в Азии и Европе) могут принять аналогичные стандарты для снижения риска фрагментации глобального рынка ИИ, где одни страны разрешают все, а другие вводят жесткие запреты.

Читайте также нашу статью о том, как автор книги про опасность ИИ попал в скандал из-за сгенерированных цитат.

Искусственный интеллектПоделиться