[Перевод] Ловушка «Пари Паскаля»: как страх перед будущим ИИ отвлекает нас от проблем в настоящем
Давайте сразу честно: я не считаю нынешний ИИ разумным. И не верю, что все эти, при всём уважении, очень впечатляющие статистические трюки вдруг возьмут и приведут нас к настоящему интеллекту.Поэтому разговоры в духе «а что мы будем делать, если ИИ станет разумным?» кажутся мне либо отвлекающим манёвром, либо просто красивым маркетингом.Но при этом у меня с ИИ-думерами всё же есть что-то общее. Я тоже переживаю из-за технологий, которые находятся в руках корпораций, настолько разросшихся, что они уже почти не поддаются нормальному контролю. Я тоже переживаю из-за того, как эти технологии используют против людей. Меня тоже тревожит, как большие компании срастаются с государством и всё это начинает пахнуть очень неприятной смесью контроля, слежки и авторитаризма. Меня тоже волнует, как технологии используют, чтобы выжимать из работников всё больше, а жить им становилось всё хуже.Просто, на мой взгляд, для этого никакой сверхразумный ИИ не нужен.Всё это уже происходит.И беспокоиться об этом нужно уже сейчас.На прошлой неделе я как раз обсуждал это публично — на лекции в Монреале, где выступал вместе с Астрой Тейлор и Йошуа Бенджио. Бенджио, если что, — человек очень серьёзный: лауреат премии Тьюринга, один из тех, кто вообще заложил фундамент нынешнего бума deep learning.И мы с ним, мягко говоря, не сошлись во взглядах.Бенджио сейчас занимается инициативой под названием Lawzero. Идея у неё такая: создать международный ИИ-консорциум, который будет делать ИИ как общественное цифровое благо — открытое, прозрачное, проверяемое и безопасное. Читать далее