NYT: ИИ может уничтожить все человечество при доступе к жизненно важной инфраструктуре

Искусственный интеллект, при достаточном развитии технологического сектора ведущих стран мира, может представлять угрозу для человечества. Об этом сообщает газета The New York Times.

Сегодняшние системы искусственного интеллекта далеки от того, чтобы представлять экзистенциальную угрозу. Однако, с каждым годом технологии развиваются, и через некоторое время возникают вопросы о возможных рисках. Существует много неопределенностей в этой области, и нам неизвестно, когда мы окажемся на грани потенциальной катастрофы, отмечает профессор и исследователь Йошуа Бенжио из Монреальского университета.

По мнению NYT, компании могут предоставлять системам искусственного интеллекта все больше автономии и подключать их к жизненно важной инфраструктуре, включая электрические сети, фондовые рынки и вооружение. Именно преодоление этой черты может вызвать проблемы, считает издание.

Когда-то может наступить момент, когда большая машина, управляющая обществом и экономикой, будет находиться вне человеческого контроля и не сможет быть выключена, аналогично тому, как нельзя выключить индекс S&P 500, рассказывает космолог Энтони Агирре из Калифорнийского университета в Санта-Крузе.

В NYT указывается, что на данный момент системы искусственного интеллекта имеют ограничения и могут застревать в циклах повторяющихся данных. Однако с течением времени эти ограничения могут быть преодолены, если разработчики будут совершенствовать программы.