В чем опасность искусственного интеллекта?

Известные люди, такие как легендарный физик Стивен Хокинг и создатель Тесла и SpaceX Элон Маск, предполагают, что Искусственный интеллект (ИИ) потенциально может быть очень опасным. Об этом пишет Forbes.

Попробуем разобраться, какие опасности несет в себе искусственный интеллект?

По сути, ИИ это машины, которые умеют мыслить и действовать разумно. Сейчас большинство современных приложений имеют позитивный эффект для человечества, но любой мощный инструмент, попадая в «плохие» руки, может быть использован с целью навредить.

Elon Musk написал:

«Прогресс в искусственном интеллекте (я не имею в виду узкий ИИ) стремительный. Если вы не контактируете с такими группами, как Deepmind, вы даже не представляете, как быстро он развивается. В течение десяти, а то и пяти лет может произойти что-то действительно опасное».

Нельзя не согласиться, что искусственный интеллект делает нашу повседневную жизнь более удобной и эффективной. Но именно приложения ИИ играют решающую роль в обеспечении безопасности, что так беспокоят Маска, Хокинга и других. Например, если ИИ отвечает за обеспечение работы нашей энергосистемы, то при ее взломе может быть нанесен огромный ущерб.

В чем опасность искусственного интеллекта?

Автономное оружие

Основная угроза для человечества, это автономное оружие, запрограммированное убивать. Такое вооружение может получить «собственный разум». И если правительство, не ценящее человеческую жизнь, будет иметь доступ к такому виду оружия, это станет реальной угрозой для всего мира.

Социальные манипуляции

Социальные медиа с помощью своих автономных алгоритмов очень эффективны при целевом маркетинге. Они знают, кто мы, что нам нравится, и невероятно хорошо понимают, о чем мы думаем. До сих пор ведется расследование дела компании Cambridge Analytica, которая используя данные 50 миллионов пользователей Facebook, якобы могла повлиять на выборы президента США в 2016 году и на результаты референдума в Великобритании Brexit.

Вторжение в частную и социальную жизнь

С помощью ИИ появилась возможность отслеживать и анализировать каждый шаг пользователя не только онлайн, но и во время занятий повседневными делами.  Камеры с алгоритмом распознавания лиц появляются во многих городах.

Любая технология может быть использована неправильно. Поскольку технология ИИ развивается стремительно, важно минимизировать его разрушительный потенциал.