Как мы ранее писали, в статье о росте влияния машин в управлении финансовыми капиталами — машины все больше вытесняют человека из сферы управления и принятия решений. А искусственный интеллект используемый при управлении финансовыми инструментами пишет свои алгоритмы, которые зачастую не полностью понятны создателям ИИ.
Другой сферой, еще более важной для общества, является сфера использования новых компьютерных технологий, в том числе робототехники в сфере военного применения.
Очевидно, что компьютеры играют все большую роль в современных войнах, опасность для людей возрастает.
Об этой проблеме в очередной раз пишет журнал «The Economist», как мы знаем, в последнее время обострилась соперничество между двумя супердержавами Китаем и Америкой.
Это соперничество имеет много измерений: от стычек из-за стальных квот до ссор из-за студенческих виз. Одна из самых тревожных и наименее понятных — это борьба за ведение войны с использованием искусственного интеллекта. О том, что Китай ускоренными темпами старается получить передовые технологии в области ИИ и робототехники мы писали ранее. Обе страны вкладывают большие средства в военизированный искусственный интеллект (ИИ), от автономных роботов до программного обеспечения, которое дает генералам быстрые тактические советы во время сражения.
Китай обеспокоен тем, что Америка имеет преимущество благодаря прорывам западных компаний, таким как их успехи в сложных стратегических играх.
Америка опасается, что китайские автократы имеют свободный доступ к обильным данным и могут привлекать местные технологические фирмы на национальную службу. Ни одна из сторон не хочет отставать.
Как сказал, Джек Шанахан, генеральный директор Пентагона по вопросам ИИ: «То, чего я не хочу видеть, — это будущее, в котором у наших потенциальных противников есть полностью задействованные силы ИИ, а у нас их нет».
Оружие с поддержкой ИИ может предлагать сверхчеловеческую скорость и точность. Но они также могут нарушить баланс сил. Чтобы получить военное преимущество, соблазн для армий будет состоять в том, чтобы позволить им не только рекомендовать решения, но и отдавать приказы. Это может иметь тревожные последствия. Способная мыслить быстрее, чем люди, система командования с поддержкой ИИ может отразить ракетные удары по авианосцам и авиабазам со скоростью, не оставляющей времени для дипломатии, и способами, которые не до конца понятны ее операторам. Кроме того, системы ИИ могут быть взломаны и обмануты манипулированием данными.