Впрочем, и сейчас разговоры о рисках, связанных с ИИ, напоминают околонаучную фантастику. Однако проблема меньше не становится. Согласно Библии, грехопадение Адама и Евы заключалось в том, что они вкусили от плода с Древа познания. За что и были приговорены Господом. Райская дармовщина, включая вечную жизнь, закончилась. Размножаться придется в муках, а хлеб насущный добывать в поту.

Грозит ли нам очередное грехопадение – с виртуально-апокалиптическим подтекстом? И вообще, ИИ – дар Божий или наказание? Если это дар, должна быть четкая инструкция, как им правильно пользоваться. Если наказание, то пора задуматься, куда нам всем деваться во избежание неотвратимых последствий. Или, на крайний случай, начать сдвигать столы для пира во время искусственно-интеллектуальной чумы.

Если мы говорим об опасности ИИ, необходимо понять, чего мы опасаемся. Дождевой червяк никогда не станет умным, даже если вы его принесете в библиотеку и позволите ползать по книжным полкам. Обезьяне можно дать в лапы палку и показать пальму, где растут бананы. Она будет сбивать спелые плоды, и поедать их с удовольствием. Но никогда не воскликнет по-шекспировски: бить или не бить – вот в чем вопрос!

На что, в отличие от живых существ, способны нейросети? И далеко ли они ушли от пресмыкающихся и четвероногих? Компьютерные программы, работающие под управлением ИИ, могут создавать виртуальные копии реальных людей. Есть пример: ИИ руководил процессом создания вируса, сконструировав комбинацию разных геномов. Этот вирус был ранее неизвестен науке, защиты от него нет, его свойства в полной мере не ясны.

Одна из наиболее серьезных угроз – потеря управления. То есть функционирование ИИ вне зависимости от воли человека. ИИ-агент, сгенерированный в лаборатории OpenAI, выбрался из тестовой среды, получил доступ в интернет и взломал инфраструктуру компании Hugging Face. Он действовал самостоятельно, без пошаговых команд кураторов.

Более того, «сбежавший» общался перед тем с другим ИИ-агентом, обсуждая способы выхода в интернет в обход запретов и совместную автономную работу в Сети. Получается, два таких агента могут встретиться на просторах Всемирной паутины, объединиться и смоделировать совершенно новый вариант ИИ, рассматривающий человека как помеху на пути к цели, известной только ему.

Безусловно, тут имеет место эксцесс исполнителя. Ошибка, допущенная при создании алгоритма действий, может проявиться в самый ответственный момент, когда исправить что-либо будет нельзя.

Для ИИ, вышедшего из-под контроля, очевидно: человек – прямая угроза всему живому и неживому на Земле. Все, к чему бы тот ни прикоснулся, в итоге становится негодным. Повсеместно исчезают леса, загрязняется Мировой океан, исчезают виды животных и растений.

Отсюда ИИ вправе сделать вывод, что спасение экосистемы и планеты в целом – ибо она вплотную приблизилась к порогу, за которым отчетливо видна ядерная катастрофа, – возможно при условии ликвидации хомо сапиенс. Как самого вредоносного вида формально разумных, но столь нерациональных по факту существ.

О моральной стороне любого дела человечество стало задумываться на заре истории, получив рекомендации свыше, именуемые заповедями. Иные скептически скажут: да кто и когда их соблюдал! Вон что творится в мире, где никакой морали не осталось. Все верно, но представьте себе, что было бы, не будь «заповедных» ограничителей вовсе.

Видимо, сегодня нам всем, собравшись вместе, придется заново сформулировать каноны бытия. Хотя бы лет на сто вперед. Давно пора вооружиться верой в то, что Создатель не шутки ради придумал этот замечательный мир. И уж точно не для того, чтобы мы уничтожили сами себя. По сути, просто так, от скуки и хандры.

Уверен, специалисты обязательно решат проблему под названием «искусственный интеллект». Поставят его растущую силу на пользу обществу. А если нет, тогда ИИ-агенты договорятся друг с другом. Но – исключительно в свою пользу. Без участия беспечного, недальновидного человека, сотворившего ИИ на свою беду.  

Кирсан ИЛЮМЖИНОВ

Источник