Норберт Винер - Корпорация «Бог и голем»
- Название:Корпорация «Бог и голем»
- Автор:
- Жанр:
- Издательство:АСТ
- Год:2018
- Город:Москва
- ISBN:978-5-17-108071-6
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Норберт Винер - Корпорация «Бог и голем» краткое содержание
В своей последней работе «Корпорация „Бог и голем“» Норберт Винер попытался рассмотреть в контексте религиозного мировоззрения проблемы, с которыми может столкнуться человечество по мере развития интеллектуальных машин.
Практически все мировые религии исходят из того, что Бог создал человека. Человек, в свою очередь, создал машину — включая машину мыслящую. И далее в этом ряду встает вопрос: если Божье творение — человек — оказался способен создать «по своему образу и подобию» мыслящую машину, то не окажется ли способна к самовоспроизведению и сама машина? И какие «моральные ловушки» ставит перед человеком все расширяющееся поле взаимодействия с его собственным созданием — искусственным интеллектом?
Корпорация «Бог и голем» - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Допустим, что человек лишился кисти руки. Он утратил несколько мышц, которые служили прежде всего для сжимания и разжимания пальцев, однако большая часть мышц, обыкновенно управляющих движениями руки и пальцев, сохранилась неповрежденной в культе. При сокращении эти мышцы не двигают ни кистью, ни пальцами, зато они порождают определенные электрические эффекты, называемые потенциалами действия. Эти потенциалы могут восприниматься соответствующими электродами, а затем усиливаться и комбинироваться транзисторными схемами. Их можно использовать для управления движениями искусственной руки посредством электромоторов, которые питаются от электрических батарей или аккумуляторов, но управляющие сигналы они получают от транзисторных схем. Центральная часть аппарата управления остается, как правило, неповрежденной и подлежит использованию.
Подобные искусственные руки уже изготавливаются в России и даже позволили некоторым увечным вернуться к производительному труду. Данный результат стал возможным благодаря тому обстоятельству, что тот же самый нервный сигнал, который вызывал сокращение мышц до ампутации, продолжает управлять электромотором, перемещающим искусственную руку. Тем самым изучение возможностей использования таких рук значительно облегчается и выглядит более естественным.
Впрочем, искусственная рука как таковая не способна осязать, а вот естественная рука как таковая выступает одновременно органом осязания и движения. Но постойте — почему же искусственная рука не может осязать? Довольно просто поместить в искусственные пальцы датчики давления, которые станут передавать электрические импульсы в соответствующую цепь. Последняя, в свою очередь, будет включать устройства, расположенные на коже, например на коже культи. Примером подобных устройств могут служить вибраторы [27] Имеются в виду технические приборы для получения и распространения колебаний (электрических, звуковых и пр.).
. Так мы сможем создавать мнимое осязательное ощущение — и можем научиться применять его в качестве замены естественных тактильных ощущений. Более того, в поврежденных мышцах сохраняются чувствительные кинестетические элементы, которые также могут быть использованы.
В итоге становится возможной новая техника протезирования, которая подразумевает конструирование систем комбинированной природы, состоящих из человеческих и механических элементов. При этом данную новую технику не следует ограничивать только заменой утраченных частей тела. Разрабатываются протезы для таких органов, которых у нас нет и никогда не было. Дельфин движется в воде при помощи хвостовых плавников и избегает столкновений с препятствиями, вслушиваясь в отражения звуков, которые он сам испускает. Что такое винт корабля, как не пара искусственных плавников, а прибор измерения глубины, как не искусственный определитель и излучатель звуков, подобный тому, каким обладает дельфин? Крылья и реактивные двигатели самолета заменяют собой крылья орла, радар служит глазами, а «нервная система», которая их объединяет и управляет ими, подчиняется автопилоту и прочим подобным навигационным приборам.
Получается, что человеко-механические системы имеют широкое практическое применение, они полезны в целом, а в отдельных случаях и вовсе незаменимы. Мы уже видели, что обучаемые машины должны функционировать в соответствии с некоторыми нормами эффективной деятельности. В случае игровых машин, когда допустимые ходы произвольно устанавливаются заранее, а целью игры признается выигрыш по правилам, которые устанавливаются строгими определениями победы и поражения, такие нормы кажутся очевидными. Но существует множество видов деятельности, которые хотелось бы усовершенствовать посредством процесса обучения; здесь оценка успеха определяется по критериям, которые предусматривают участие человека, а потому сведение таких критериев к формальным правилам видится непростой задачей.
Областью, которая остро нуждается в автоматизации и где имеется немалый потенциальный спрос на самообучающиеся машины, является область машинного перевода. В нынешних метастабильных условиях международной напряженности США и Россия испытывают равную и взаимную потребность получать сведения о том, что говорит и думает другая сторона. Поскольку в обеих странах число квалифицированных переводчиков-людей ограниченно, каждая сторона изучает возможности машинного перевода. Такой перевод возможен в принципе, но по своим литературным достоинствам и содержательности переведенные машиной тексты не вызвали восторга и воодушевления ни у одной из сторон. Пока никакое механическое устройство перевода не доказало, что оно заслуживает доверия в тех случаях, когда от точности перевода зависит принятие важных решений.
Возможно, наиболее перспективным способом автоматизации является применение обучаемых машин [28] Справедливость авторской точки зрения наглядно проявляется в современных системах онлайн-перевода, в работе которых учитываются грамматические структуры, контекст словоупотребления и существующие (заложенные в память системы) образцы правильных переводов того или иного слова или выражения с одного языка на другой.
. Для функционирования такой машины необходим строгий критерий хорошего перевода. Данный критерий может опираться либо на полный набор объективно применяемых правил, определяющих качество перевода, либо на некоего посредника, который способен оценить качество перевода независимо от таких правил.
Обычным критерием хорошего перевода признается понятность. Люди, читающие текст на языке, на который выполнен перевод, должны получить то же впечатление от текста, как и те, кто читает и понимает этот текст в оригинале. Если при использовании данного критерия возникают некоторые затруднения, можно применить другой — необходимый, но недостаточный. Допустим, у нас есть две независимые переводные машины, и одна, например, переводит с английского языка на датский, а другая — с датского на английский. Когда английский текст переведен на датский первой машиной, пусть вторая переведет результат обратно на английский. Итоговый перевод должен быть признан эквивалентным оригиналу кем-то, кто владеет английским языком.
Вполне возможно составить свод формальных правил такого перевода, настолько строгих, что их можно доверить машине, и столь совершенных, что их будет достаточно для выполнения перевода в соответствии с этими правилами, а результат удовлетворит приведенному выше критерию. Не думаю, впрочем, что лингвистика в своем развитии ушла настолько вперед, что от нее стоит ожидать такого набора правил, применимого на практике, и что она вообще способна добиться подобного прогресса в представимом будущем. Отсюда вытекает, что для переводной машины сохраняется вероятность ошибки. Если на основании машинного перевода нужно принять какое-либо ответственное решение, касательно действий или политики, пустяковая ошибка или даже малый шанс ее появления чреваты непропорционально крупными, серьезными последствиям.
Читать дальшеИнтервал:
Закладка: