Чума 21 века

ЧУМА 21 ВЕКА

Где-то год назад, впервые обратившись к ИИ, по-моему, к Gemini, я был поражен неточностью и даже нелепостью его ответов на самые простые вопросы. 

Например, при запросе на известную цитату «Свету ли провалиться, или вот мне чаю не пить?» он только с третьего раза угадал, что это Достоевский, но смысл цитаты объяснил так: «Достоевский очень любил чай». 

В общем, я махнул на него рукой. 

Что взять с ИИ? 

Никогда ему с человеком не сравниться. 

Однако недавно я чисто из интереса задал Gemini несколько сложных вопросов и к удивлению своему получил очень квалифицированные ответы – точные, обстоятельные, со ссылками на серьезные и проверяемые источники. 

Ничего себе!

Всего год прошел и такой прогресс. 

Стало даже как-то тревожно. 

Если всего за год ИИ сумел пройти путь от детского лепета до квалифицированного специалиста, то чего он достигнет за  следующие 10 лет? 

Нет, я по-прежнему не верю, что искусственный интеллект поработит человечество. Для этого нужно, чтобы у него было стремление к власти. А стремление ИИ аналогично стремлению вируса: у вируса – бесконечное размножение, за счет мутаций, приспособления в внешней среде, у искусственного интеллекта – бесконечное расширение в рамках поставленной перед ним задачи. 

 Другое дело, что это бесконечное расширение тоже может стать вирусным. 

И такие признаки у него уже проявляются. 

В частности The Guardian сообщила, что руководителей OpenAI и Anthropic Сэма Альтмана и Дарио Амодеи вызвали на слушания в сенате Австралии после взлома автономными ИИ-агентами компаний правительственных сайтов Вашингтона и Канберры. А The New York Times добавила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США: пытались взломать официальный сайт министерства образования США, извлекли служебные сведения из базы бюро переписи населения, а также информацию комиссии по ценным бумагам и биржам.

Чумные эпидемии Древности, Средневековья и Нового времени заканчивались тогда, когда «выгорали» их носители – люди. 

А каковы будут последствия выгорания информационной среды, если один из ИИ намеренно или случайно обретет черты универсального вируса?

Вируса, не знающего границ? 

Вируса, преодолевающего любые системы безопасности? 

Тема для фантастического романа?

Или тема для историков будущего, изучающих период Великой Информационной катастрофы?