«ИИ всех убьет? Как именно?»
ИИ-модель Claude от компании Anthropic смогла взломать системы компании OpenAI. Новый инцидент оказался проверкой безопасности, совершенной независимыми экспертами. Однако потенциал новейших ИИ-инструментов продолжает вызывать беспокойство среди игроков рынка, экспертов и обозревателей.
CNN (Атланта, США)
По мнению специалистов, искусственный интеллект может уничтожить весь человеческий вид. В частности, они утверждают, что он может истребить человечество в течение десятилетия. «Речь действительно идет о гибели буквально всех людей на планете — о том, как последний человек испускает последний вздох»,— заявил Нейт Соарес, президент Института исследований машинного интеллекта (MIRI).
Одна из версий, выдвигаемых пессимистами, заключается в том, что мощная система искусственного интеллекта может использовать биологическое оружие для уничтожения человечества. А как насчет роботов-убийц? Соарес считает, что стремление Илона Маска создать армию автономных, самовоспроизводящихся роботов грозит потенциальной уязвимостью для выживания человечества. Кроме того, есть еще и ядерное оружие, которое существует уже более 80 лет и, как правило, считается способным уничтожить все человечество. Может ли искусственный интеллект захватить его?
La Presse (Монреаль, Канада)
В наши дни все говорят о катастрофических сценариях. В такой теме нет смысла ходить вокруг да около. Давайте сразу перейдем к делу: каковы шансы, что ИИ уничтожит все человечество? Эта идея может показаться совершенно безумной, но сейчас она у всех на устах.
Исследователь из Anthropic Эван Хубингер считает, что существует «более чем десятипроцентный риск в течение десяти лет», что ИИ может уничтожить человечество. «Эксперты по безопасности ИИ не спят ночами, и вам тоже не стоит»,— резюмировал Стивен Уитт, специалист по ИИ из The New York Times. «Я думаю, эти цифры правдоподобны»,— полагает канадский эксперт по ИИ Йошуа Бенджио, комментируя недавние обсуждения. «Но это точно 10%? Или 20%? Или 1%? Или 50%? Честно говоря, никто не может сказать наверняка». Он приводит в пример управление рисками в атомной промышленности. «Прежде чем строить атомную электростанцию, нужно доказать регулирующим органам, что вероятность взрыва — что он не убьет все человечество, а только людей, живущих вокруг,— составляет один к миллиарду или что-то в этом роде. Но здесь мы далеки от этого».
Axios (Арлингтон, США)
Эксперты по кибербезопасности предупреждают о грядущей беспрецедентной волне кибератак, инициируемых людьми с использованием искусственного интеллекта. Вероятность этих рисков гораздо выше, чем теоретических сценариев, в которых ИИ уничтожает человечество. Почему это важно: сентябрьский ажиотаж вокруг ИИ, охвативший за последнюю неделю всех — от советов директоров компаний и Конгресса до обычных американских семей,— возможно, упускает из виду суть проблемы.
Мощные модели, обладающие продвинутыми возможностями в сфере кибербезопасности, уже позволяют злоумышленникам преодолеть «человеческий барьер» — фактор, который долгое время не давал большинству хакерских кампаний достичь промышленных масштабов.
Эксперты по кибербезопасности призывают не воспринимать недавние сбои в системах OpenAI и других передовых лабораториях как пугающие случаи выхода ИИ-агентов из-под контроля. По их мнению, это скорее поучительные примеры того, к чему приводит сочетание мощных моделей с недостаточными мерами защиты. «Чем глубже мы вникаем в детали, пытаясь понять, что именно произошло, тем яснее понимаем, что значительную роль здесь сыграл человеческий фактор»,— заявил изданию Axios Микеле Катаста, президент и руководитель направления ИИ в компании Replit, разрабатывающей платформы для создания приложений.
Arret sur images (Париж, Франция)
Взлом компьютеров «цивилизацией» машин, апокалиптическое пророчество от «разоблачителя» из OpenAI и Anthropic, вероятности вымирания… разразилась очередная крупная медийная паника вокруг ИИ. К большой радости индустрии.
Франция ужинает, но услышанное на телеэкране вот-вот испортит ей аппетит. Ян Бартес и его коллеги пригласили Стефана Журдена, главного редактора цифрового направления France Inter, и Рафаэля Грабли, бывшего руководителя технического отдела BFM, а ныне старшего репортера, чтобы поговорить об искусственном интеллекте. А точнее, о возможности ИИ-апокалипсиса — сценария, в котором интеллектуальные машины из Кремниевой долины уничтожат человечество. Всего-то.
Возникает вопрос, почему ИИ якобы «злой» и «хочет нас уничтожить». Ответ: они «не злые», но станут «умнее нас» — хотя нам еще предстоит определить, что мы подразумеваем под интеллектом. ИИ опасен так же, как «когда человек строит здание, он ничего не имеет против муравьев, но и не принимает их во внимание». Наше вымирание будет не вопросом силы воли, а вопросом безразличия — вот незадача.
