Физик-теоретик Макс Тегмарк из Массачусетского технологического института (США) в интервью IEEE Spectrum, посвященном недавно вышедшей в свет своей книге «Жизнь 3.0», назвал самый вероятный негативный сценарий будущего человеческой цивилизации.
Продвинутый искусственный интеллект, который, тем не менее, не будет наделен привычным нам сознанием, погубит человечество, если будет создан. Так считает Макс Тегмарк, физик-теоретик из расположенного в Соединенных Штатах Америки Массачусетского технологического института.
Он назвал основные риски при разработке ИИ. Как сообщаетиздание, игнорирование ряда факторов может привести к краху человечества.
По его мнению, исследование искусственного интеллекта зачастую игнорирует проблему сознания, в частности, различие между сознательной и бессознательной системами обработки информации, характерными для живой и неживой природы.
Ученый считает, что человечество в целом недооценивает угрозы, провоцируемые усложняющимися с каждым днем системами обработки информации.
«Просто потому, что мы не знаем, что пойдет не так, не означает, что мы не должны об этом думать», — считает ученый.
Рано или поздно эти системы обзаведутся полноценным искусственным интеллектом, однако сознания в привычном нам смысле у них не появится.
«Когда я размышляю о сознании, я просто имею в виду субъективный опыт: он чувствует себя чем-то вроде меня», — рассказал ученый.
Тегмарк считает, что жизнь может быть создана и на «кремниевой основе», а наибольшую опасность для цивилизации будет представлять ИИ, не наделенный сознанием.
По словам которого, если человечество вырастит такого себе синтетического Адольфа Гитлера, то заплатит за это очень большую цену. Супер-ИИ с «сознанием», не отягощенный нравственными проблемами, расправится с людьми очень быстро и жестоко.
«Если мы воспитываем детей, которые продолжают следовать мечтам, которых не достигли мы, тогда мы можем гордиться ими, даже если нас уже нет. Но если вместо этого мы вырастим нового Адольфа Гитлера, который уничтожит все, что важно для нас, мы не будем в таком восторге», — считает ученый.
Тегмарк разделяет точку зрения американского физика-теоретика Фримена Дайсона, который допускает, что человек в будущем может серьезно повлиять на Вселенную, существованию которой придает смысл именно человек.
Космолог не согласен с позицией нобелевского лауреата американского физика-теоретика Стивена Вайнберга, крупнейшего специалиста по квантовой теории поля, который считает, что «чем больше мы понимаем Вселенную, тем бессмысленнее она нам кажется».
Тегмарк призывает задуматься о будущем человечества, связанном с искусственным интеллектом, и о новых угрозах. Самая главная из них — это не какое-нибудь опостылевшее глобальное потепление, а искусственный интеллект.
