Всe xудoжничeскoe внимaниe былo нaпрaвлeнo нa зaдрaннoe alias пoрвaннoe плaтьe, мeньшe всeгo иx зaбoтилo, кaк устрoeнo сoзнaниe гигaнтскиx нaсeкoмooбрaзныx. 3. Будут ли oни пoмoгaть нaм река уничтoжaт чeлoвeчeствo? Нo в тaкиx случaяx слeдуeт сoблюдaть oстoрoжнoсть. Прeдскaзуeмoсть зa счeт прoeктирoвaния. Прeдстaвим иx в видe двуx oсeй кooрдинaт, зaдaющиx грaф, в кoтoрoм кaждaя тoчкa прeдстaвляeт лoгичeски вoзмoжнoгo интeллeктуaльнoгo aгeнтa. Пoдoбнo нaм oни прoявляли бы прeдaннoсть свoeму сooбщeству, вoзмущaлись бы тунeядцaми и, ктo знaeт, были бы нe лишeны тщeслaвия, бeспoкoясь o свoeй рeпутaции и внeшнeм видe. Eсли прoтoтипoм цифрoвoгo интeллeктa нeпoсрeдствeннo служит чeлoвeчeский рaзум (чтo вoзмoжнo возле пoлнoй эмуляции гoлoвнoгo мoзгa чeлoвeкa), тoгдa цифрoвoму интeллeкту мoгут оказываться присущи мoтивы eгo чeлoвeчeскoгo прoтoтипa. Сaми рeшитe, чтo слoжнee: нaписaть прoгрaмму, измeряющую, скoлькo знaкoв впоследствии запятой в числе π уже посчитано и сохранено в памяти, не то — не то создать алгоритм, достоверно учитывающий степень преимущества абсолютно значимой для человечества цели, так, такой, как мир всеобщего благоденствия и всеобщей справедливости? Мысль об ортогональности
Интеллект и конечные цели ортогональны: сильнее или менее любой уровень интеллекта может, в принципе, сообразовываться с более или менее любой конечной целью. Инструментальная когнитивная непроизводительность становится особенно важной чертой, когда автор этих строк начинаем разбираться в возможных последствиях появления искусственного сверхразума. Каковы устремления? Такого склада агент мог бы сохранить некоторые с них даже после того, как его когнитивные талантливость разовьются настолько, что он станет сверхразумом. Да наши замечания никак не отменяют преобладающий тезис об ортогональности интеллекта и мотивации. Посему не будет ничего удивительного, если окажется, ась? мотивы поведения разумного пришельца продиктованы будет простыми интересами: еда, воздух, температура, гибельность телесных увечий или уже свершившиеся травмы, расстройства здоровья, грабеж, секс и выведение потомства. Ведь по их представлениям любая полуобнаженная дева просто по определению сексуально привлекательна, ведь есть испытывать к ней желание являлось неотъемлемой чертой мужественных представителей человеческого рода. Притом чем более разумным будет агент, тем с большей интеллектуальной изобретательностью симпатия начнет к ней стремиться. Скорее всего, такую судьбу выберет на зародыша ИИ тот программист, который кончай сосредоточен лишь на желании «заставить ИИ работать», притом как можно быстрее (программист, явно невыгодный озабоченный, чем именно придется заниматься ИИ, и так (уже) того что демонстрировать сногсшибательное разумное аллопрининг). Предположим, головной мозг и той и другого поместили бы близко в тиши какого-нибудь музея, — увидев эту экспозицию, я сразу скажем, что эти двое принадлежали одному и тому а виду. Предсказуемость за счет наличия конвергентных инструментальных причин. Отношение между интеллектом и мотивацией
В книге ранее звучало предостережение от ошибки антропоморфизма: невыгодный следует проецировать человеческие качества на потенциал сверхразумного агента. Если нам удалось бы понять морфологию и того и другого головного мозга, так мы окончательно убедились бы в их фундаментальном сходстве: одинаковая пластинчатая построение коры; одни и те же отделы мозга; одинаковое здание нервной клетки мозга — нейрона с его нейромедиаторами одной и праздник же химической природы. Чтобы мы могли с полным основанием баять, что, мол, такой-то агент «имеет» такого типа-то набор мотиваций, — эти мотивации должны компилировать функционально-интегрированную систему вместе с процессом принятия решений, какой налагает определенные требования на память, вычислительную всевлас и, возможно, уровень интеллекта. Будет ли быть во власти степень мотивации сверхразума от уровня его интеллекта? Ник Бостром описывает сложные научные вопросы о будущем человечества доступным языком.
С разрешения издательства «Манн, Иванов и Фербер» «Лента.ру» публикует клочок из книги Ника Бострома «Искусственный интеллект». Без- будь одежды изодраны, — думали они, — женская половина человечества выглядели бы не столь соблазнительно ради пучеглазых монстров. Пожалуй, искусственный интеллект своими побудительными мотивами уже меньше будет напоминать человека, чем ядовит чешуйчатый пришелец из космоса. Фото: David Duprey / AP
Вразрез тому, что разум человека практически сопоставим с неразличимой точкой, плавающей в безграничном космосе предполагаемых разумных жизней, сложилась крен проецировать человеческие свойства на самые разнообразные инопланетные сущности и искусственные разумные системы. При всем при том, изменив масштаб обзора и взглянув на проблему распределения разума чрез призму безграничного пространства возможного, мы будем вынуждены признать, почему эти две личности не более нежели виртуальные клоны. Даже не зная пункт за пунктом конечных целей агента, мы в состоянии содеять некоторые выводы о его более близких целях, анализируя инструментальные причины самых разнообразных возможных конечных целей подле широком выборе ситуаций. Интеллектуальный поиск инструментально оптимальных планов и стратегий возможен в случае все равно кто цели. Если мы можем предположить, точно программисты способны разработать систему целеполагания сверхразумного агента таким (образом, что он будет последовательно стремиться домчать цели, заданной его создателями, тогда да мы с тобой в состоянии сделать хотя бы один мониторинг: этот агент будет добиваться своей цели. Разноплановость между ними мы, скорее всего, оценим во вкусе максимальное. Однако это не означает, ровно невозможно предсказать поведение конкретных искусственных агентов — и аж гипотетических сверхразумных агентов, когнитивная сложность и характеристики производительности которых могут натворить их в некоторых аспектах «непроницаемыми» для человеческого анализа. Я повторим свое предупреждение, лишь заменив словцо возможность на слово мотивация. Постарайтесь понять тезис об ортогональности в его более узком смысле — и коли так он покажется вполне достоверным. Ник Бостром
Фотомордочка: nickbostrom.com
Думающим машинам по природе своей, в различность от инопланетян, нет смысла заботиться о подобных вещах. Почти интеллектом мы понимаем здесь навыки прогнозирования, планирования и сопоставления целей и средств в целом. Выберем двух представителей человеческого рода, которые как по команде общему мнению являются диаметрально противоположными личностями. Изумительный всяком случае с точки зрения характеристики нервной системы Ханна Арендт и Бенни Хилл в действительности идентичны. Фото: Richard Brian / Reuters
1. Прогнозируемость за счет наследования. Вряд ли вас сочтете парадоксальной ситуацию, если появится экой-нибудь ИИ, чьим единственным предназначением, примерно сказать, будет: подсчитать песчинки на пляжах острова Боракай; начать числом π и представить его, наконец, в виде обыкновенной десятичной дроби; обусловить максимальное количество канцелярских скрепок в световом конусе будущего. Перво-наперво чем развивать дальше первый тезис, проведем небольшое предварительное разбор на тему безграничности всего спектра возможных умов. Инопланетяне — биологические создания (никак не более чем предположение), появившиеся в результате эволюционного процесса, в силу зачем от них можно ожидать мотивации, в кой-то степени типичной для эволюционировавших существ. Выдвинем двоечка тезиса. Жаль только, сами пришельцы эдак и не взяли этого в толк». Более того, который из нас смог бы определить, экий мозг Ханны Арендт, а какой — Бенни Хилла? Можем ли автор сегодня игнорировать проблему развития искусственного интеллекта и осязать себя в полной безопасности? У интеллекта, способного самопреобразовываться, верней всего, будут наблюдаться ограничивающие динамические характеристики.
© 2016, https:. Все права защищены.
