Влад Старостин со своим блогом
Пишите мне на mail@vladstarostin.ru. Подписывайтесь через RSS
Влад Старостин со своим блогом
Пишите мне на mail@vladstarostin.ru. Подписывайтесь через RSS
8 ноября 2021
Книга о том, почему опасен искусственный интеллект и что с этим делать. Давно хотелось почитать что-то на эту тему, так как об опасности искусственного интеллекта говорят отовсюду, но до деталей что-то не опускаются. А тут достаточно уважаемый автор в этой сфере. Так вот, искусственный интеллект опасен не потому, что он вдруг обретёт сознание и решит нас всех поубивать, а потому, что решая поставленную ему задачу, алгоритм не думает ни о чём другом, кроме как о решении задачи. А значит (если заранее это в него не заложить) вполне может нанести нам вред, если посчитает, что это необходимо для решения поставленной задачи. А заложить заранее все возможные негативные последствия невозможно. В качестве примера автор приводит алгоритмы соцсетей Фейсбука или Твиттера, которые решают задачу увеличения количества кликов. И достигается это не просто подсовыванием читателю материала, на который он захочет кликнуть. Алгоритмы (по мнению автора) меняют самого читателя, делают его взгляды более радикальными, что позволяет решить поставленную задачу, но вредит обществу в целом. Если честно, пример звучит спорно, хоть и занятно. Я давно в каком-то подкасте слышал другой пример (впрочем, не смог найти сейчас каких-то источников, возможно это просто байка). Якобы тестировался робот, который убирает в помещении мусор, и робот пытался максимизировать количество убранного мусора. И в какой-то момент робот обучился создавать мусор самостоятельно, роняя и разбивая предметы в комнате. В общем, решая поставленную задачу, искусственный интеллект не считается со средствами. И пока эти интеллекты не так уж много на что влияют, всё не так страшно, но как только они станут умнее и мы доверимся им больше, стоит ждать беды.
Книга состоит из трёх частей. В первой автор немного объясняет матчасть, рассказывает историю и текущее состояние сферы искусственного интеллекта. Во второй он разбирает возможные возражения на тезис, что опасность грядёт и надо с этим что-то делать. Какие-то из его возражений звучат логично, какие-то — натянуто, но в качестве интеллектуального упражнения читаются с интересом.
А в третьей части автор пытается дать ответ на вопрос «что же делать». Нужно при разработке закладывать в искусственный интеллект три принципа:
Если эти принципы заложить, то у нас есть шанс. Дальше книга теряет стройность и распадается не разносортные главы об этих принципах с точки зрения философии и теории игр. Опять же, занятно, какой-то ясной идеи вынести мне не удалось.
Книгу почитать можно, но мне не сильно зашла.
Продолжаю читать сборник рассказов Виана. Если предыдущий рассказ был антивоенный, то этот — антиполицейская сатира (или скорее сатира против «полицейского государства»). Рассказ про учеников полицейской школы о том, как они сдают экзамены, избивая бездомных, как весело охотятся на бедных и голодающих, ну и в целом постоянно творят несправедливость, как и подобает плохим полицейским. Сатира понятная, изобретательная в насилии и абсурде (как и подобает Виану), но в целом всё ожидаемо.
Российское фэнтези 2000 года. Фэнтези — интересный жанр. Никаких тебе ограничений реального мира, можно лепить всё, что хочется. Можно построить сложный мир с множеством действующих сторон, можно придумывать языки и культуру, можно сконцентрироваться на какой-то узкой теме, а можно просто писать треш так, чтоб было весело (в очередной раз вспоминаю «Похождения Буратины» Харитонова). А в этой книге порадоваться ничему не удалось. Понятно, что никакой масштабности и серьёзности тут нет, но и особого юмора и сатиры тоже не чувствуется. Сюжет даже лень пересказывать. Не понравилось.