Facebook закрыл механизм искусственного интеллекта после того, как разработчики обнаружили, что ИИ создал свой собственный уникальный язык, который люди не могут понять. Исследователи из Исследовательской лаборатории AI (FAIR) обнаружили, что чат-боты отклонились от сценария и обменивались информацией на новом языке, разработанном без участия человека.
Искусственный интеллект не является разумным — по крайней мере, пока. Это может быть когда-нибудь, хотя — или может приблизиться к чему-то достаточно близко, чтобы быть опасным. Рей Курцвейл несколько лет назад предупреждал о технологической сингулярности. Оксфордский словарь определяет «сингулярность» как «гипотетический момент времени, когда искусственный интеллект и другие технологии стали настолько продвинутыми, что человечество претерпевает драматические и необратимые изменения».
Чтобы быть ясным, мы действительно не говорим о том, подслушивает ли Алекса ваши разговоры, или Сири слишком много знает о ваших данных календаря и местоположения. Существует огромная разница между цифровым помощником с поддержкой голоса и искусственным интеллектом. Эти платформы для цифровых помощников — это просто прославленный веб-поиск и инструменты для основного голосового взаимодействия. Уровень «интеллекта» минимален по сравнению с истинным компьютерным искусственным интеллектом.
Ученые и технические эксперты, в том числе Элон Муск, Билл Гейтс и Стив Возняк, предупредили, что ИИ может привести к трагическим непредвиденным последствиям. Известный физик Стивен Хокинг предупредил в 2014 году, что ИИ может означать конец человеческой расы. «Оно само по себе будет самореализоваться и постоянно расти. Люди, которые ограничены медленной биологической эволюцией, не могут конкурировать и будут заменены».
Почему это страшно? Подумайте о Терминаторе, или WOPR из War Games. Весь наш мир подключен. Искусственный интеллект в конечном итоге это выяснит — и выяснит, как сотрудничать с другими системами ИИ. Возможно, ИИ определит, что человечество представляет собой угрозу, или что человечество — это неэффективная трата ресурсов — выводы, которые кажутся правдоподобными с чисто логической точки зрения.
Машиноведение и искусственный интеллект обладают феноменальным потенциалом для упрощения, ускорения и улучшения многих аспектов нашей жизни. Компьютеры могут «глотать» и обрабатывать огромное количество данных, извлекать образцы и полезную информацию со скоростью экспоненциально быстрее, чем люди, и этот потенциал исследуется и развивается во всем мире.
Это не значит, что нам нужно вытащить вилку на все машинное обучение и искусственный интеллект и вернуться к более простому, более человеческому существованию. Однако нужно проявлять осторожность. Нам необходимо внимательно следить и понимать самовоспроизводящуюся эволюцию искусственного интеллекта и всегда поддерживать некоторые способы его отключения или отключения. Если ИИ общается с использованием языка, который знает только ИИ, мы, возможно, даже не сможем определить, почему и как он делает то, что он делает, и это может не сработать для человечества.
