Подробнее
Китайская комната ЪШШ
Маркус, ты что, МЫСЛИШЬ? Ты что, ЧЕЛОВЕК? Алан Тьюринг придумал тест. Человек беседует через стенку с другим человеком и с компьютером. ( На основании ответов, человек пытается понять, кто из собеседников человек, а кто всего лишь машина, только имитация жизни
Если человек не уверен где кто, то компьютер проходит тест и как бы всё, он мыслит. Джону Сёрлу это не понравилось, ведь не может робот сочинить симфонию, не превратит кусок холста в шедевр искусства.
Философ предложил мысленный эксперимент. Предположим, что его закрыли в комнате с корзинками китайских иероглифов и инструкцией на английском,типа «видишь этот символ, бери из корзинки такой-то и сочетай его с тем-то из другой корзинки». Сам Джон китайского не знает, а китайские символы всё равно что бессмысленные каракули.
Теперь представим, что вне комнаты сидят китайцы и просовывают философу в щель всякие вопросы на китайском, типа «ты ебанутый? Ты что там делаешь?», а Сёрл им отвечает, используя только инструкцию и корзинки. Китайцам покажется, что в комнате сидит кто-то, кто определённо знает китайский, хотя внутри всё равно, что студент с методой.
Тест Тьюринга на знание китайского пройден без понимания китайского. Сёрл показывает, что разум ф программа, что машины оперируют правилами, но не смыслом. Человек видит слово «кошка» и представляет кошку, машина не представляет ничего. Типа разум вызывают свойства мозга, которые не сводятся к выполнению компьютерной программы. В общем, закомплексованный мужик боится потерять свою индивидуальность, ясно.
Идея Сёрла вызвала срач на 40 лет, который всё ещё продолжается. Аргументы критиков такие: 1) Тест Тьюринга выдерживает не человек в комнате, а система из человека и инструкции. Комната как одно целое, якобы понимает китайский. 2) Смысла слов не существует и это просто манипуляция правилами постановки и сочетаемостью, а машины с этим и работают.
3) Разум комнаты кроется в инструкции. Кто-то ведь её написал, заложил в неё ответы на вопросы. 4) Если бы комната могла взаимодействовать с миром, то у неё появились бы ассоциации иероглифов с явлениями, то есть смысл. 5) Отдельные нейроны не знают, что происходит в мозгу в целом, а просто выполняют работу.
6) А что если заменять по одному нейрону в мозге аналогичным по работе компьютером, вплоть до замены всех нейронов? Разум угаснет? Аргументов против полно, короче, на которые Сёрл отвечает уклончиво, мол, шли бы вы нахуй. И не удивительно, покажите мне хоть что-нибудь, в чём философы бы сошлись единодушно.
Phy6,философия,наука
Еще на тему
Звучит у/b/едительно.
Есть существенная разница между неверием и агностицизмом
Что еще раз подтверждает вышеобозначенную мысль.
вопрос правильно ставить надо что такое разум? какие его критерии? и тут все и рушится...
стерильность - можно настроить, логичность не показатель и тоже настраиваемая, чувства сложная вещь но уже есть куча возможностей переноса чувств в цифру (зрение, тактильные итд), а эмоции можно рассмотреть как весы (привязанности склонности) или просто скопировать базы людей с определёнными характерами. как вариант одного человека. по сути калибровка отклонений. забавно, но и это нельзя считать разумом! или нет? а что если откроют что человеческий мозг так и функционируют тогда мы просто чуть усложнённые нейросети и всего та и разума не существует в том понимание которого мы ему приписываем.
сорри за сумбурность, надеюсь суть смог передать
А составляющие это:
Память- умение запоминать и вспоминать.
Осознание - умение представлять.
Вроде всё.
Самосознание - умение представлять себя и отделять от окружающего мира, это не прям обязательное свойство, а просто следующая ступенька осознания.
Разумность это способность изобретать новые способы усилием мозга, а не случайно и потом запомнить.
Если назовёшь ещё примеров узнаю ещё что-нибудь.
Мысль Серла именно в том и заключается, что основное свойство разума - манипулировать высокоабстрактными идеями независимо от их вербального выражения, способность умозрительно исследовать идею и экспериментировать с ней. Комната Тьюринга привязана к вербальному выражению и идея существует лишь для программиста и пользователя - они наделяют смыслом последовательности, заданные слепой программе, которая лишь связывает слова в заданном порядке, не будучи способной взаимодействовать с идеей в ее непосредственном сознании.
Разница между "быть" и "казаться" - в их возможностях.
А я-то думал это спецэффекты все.
А вот потом...
Дать задание нейросети//ИИ разработать эффективный тест Тьюринга.
Вкратце: агент должен изымать роботов на прочистку памяти, когда роботам наступает Х лет (от избытка воспоминаний у них начинаются глюки-баги).
Агенту дают спецробота - этот робот сам в возрасте "несколько дней до пенсии".
Агент немного даже привязывается к этому роботу - все-таки персона сформированная.
точного ответа нет, есть только теории, например теория эмерджентности сознания.
пока не появился точный способ ответить на этот вопрос, каждый для себя выбирает наиболее предпочтительную из них
Есть восприятие - это сохранение окружающего мира в памяти виде упрощенных образов.
Абстрактного мышление позволяет оперировать этими образами в отрыве от мира реального.
По мере развития человека из этих образов создается упрощенная копия окружающего мира, с закономерностями более-менее соответствующими реальности.
Вот эта копия мира в голове человека и есть разум. А процесс соотнесения воспринимаемых образов с сохраненными в голове, и проведение каких-либо операций с ними отдельно от восприятия (абстрактное мышление) это и есть сознание.
Человек существо живое, поэтому функционирует постоянно. Соответственно каждое мгновение он воспринимает поток чувств, на которое накладывает систему образов из памяти, абстрактно обрабатывает этот поток и на основании совокупности базовых ощущений, психики и сохраненных в памяти установок принимает какое-то действие.
Вот и думай что нужно чтобы определить есть сознание у машины или нет.
У машин нет органов чувств чтобы воспринимать окружающий мир, и нет тела чтобы ощутить себя в нем - а это собственно основа для появления самосознания - есть я и есть мир. У машины нет ни того, не другого - по крайней мере если мы говорим про современные нейросети.
У машины нет психики и личности, значит нет желаний чтобы формировать собственные цели. Нет постоянного потока информации, чтобы формировать процесс который мы называем сознанием. Машина работает по принципу запрос-ответ-простой.
Таким образом если всю эту хероту специально не кодировать, то никакого разума или сознания у машины даже близко не будет.
>Чтобы определить есть сознание у машины или нет.
Нужно просить смоделировать данные на основе данных, если оно будет смоделировано правильно, значит есть сознание.
>нет органов чувств чтобы воспринимать окружающий мир
Микрофон, клавиатура, видеокамера, это всё создаёт необходимые данные.
>нет тела чтобы ощутить себя в нем
Тело есть, вот только чувств нет, но это не обязательно для сознания, а вот для самосознания уже было бы желательно, но данные об этом тоже можно внести.
>нет психики и личности, значит нет желаний чтобы формировать собственные цели
Не уверен, что такое психика. Личность — это набор ответных реакций на основе памяти и процесса осознания. Желания тоже можно смоделировать набором данных. Ну собственных целей действительно не будет без желаний.
>Нет постоянного потока информации
Когда поток есть – есть сознание, когда потока нет – нет сознания. Но непостоянство процесса не говорит о полном его отсутствии.
>по принципу запрос-ответ-простой
Подавай данные без перерыва и тогда простоя не будет. Да и человек может находится в бессознательном состоянии, но это не значит, что он вообще не разумен.
>если всю эту хероту специально не кодировать
Может там и нет осознания, но зачатки сознания по любому есть, а дальше в процесс моделирования просто нужно добавить «Я».
Я считаю что осознавание себя и своей разумности не возможно благодаря только одному мозгу, спинной мозг и сотни километров нервных окончаний по всему телу делают нас осознающими себя как живой мыслящий организм.
Вот если бы допустим с самого рождения человеку отключить все органы осязания и спинной мозг и сделать так чтобы мозг человека рос и усложнялся с возрастом (только вот как он будет усложнятся если человек ничего не видит не слышит и не чувствует, но допустим) , появится ли в таком случае у человека осознание себя и вообще разум ?
В чём проблема смоделировать алгоритм так что бы он описывал как чувства протекают у тебя или иного человека?
>не возможно благодаря только одному мозгу
Т.е. все паралитики ниже шеи не осознают себя? Тебе бы за Хокинга пол мира пояснило бы…
>если человек ничего не видит не слышит и не чувствует
Я же писал про сознание и самосознание.
Для сознания нужны две вещи память (запоминать, вспоминать) и умение представлять, т.е. моделировать из образов конструкции. Для самосознания в эти конструкции надо добавлять «Я». Чтобы представлять себя об этом, конечно, нужны данные, но для получения этих данных не обязательно иметь чувства, тело и т.д. эти данные можно внести искусственно.
>вообще разум
Тут скорее зависит от того, что вы понимаете под разумностью? Для кого-то и кошка с собакой не разумны, потому что говорить не умеют. Я считаю, что для разумности достаточно памяти и процесса сознания. Если хотите можете к этому добавить самосознание, но как считается большинство животных не осознают себя. Т.е. они не разумны?
паралитики хоть что-то чувствуют, нет человека полностью отключённого от осязания а я имел ввиду с рождения отключить у человека всё осязание мира, что будет тогда ?
Если это будет требоваться для каких-то целей, например для целей имитации поведения, то почему нет?
>что будет тогда ?
Начать стоит с того, что самосознание у человека появляется не при рождении, а в возрасте от года до трёх, хотя чувства у него появляются ещё в утробе, в процессе формирования плода.
Дальше ты предлагаешь ситуацию в которой есть способность к запоминанию, и процесс мышления, но данных для этих процессов нет. Тогда могу предположить, что и осознавать будет нечего, не из чего. Но если бы эти данные были, независимо от наличия чувств, то был бы и процесс сознания. Но наверно для его запуска нужен был бы какой-то стимул, раздражитель, который думаю можно было бы прописать искусственно. Т.е. какая-то примитивная имитация чувства понадобилась бы.
Как ты там говорил? Во «постный пиздёжь»!
постный пиздежь у тебя каждый день на кухне, понял?
Много новых исследований показывают, что мозг принимает решение до того, как сознательно человек думает, что его принял.
А в чём соль? Мозг как принял решение, так может и передумать. А ещё его можно заставить передумать.
Это не статичная система.
А то так какая-то хуйня получается. Типа не человек совершает свои действия, а какое-то собрание телепатов, которые узнают о проблеме раньше, чем о ней вообще появилась информация.
Как ты собрался действовать, если у тебя нет информации? Да, если инфа есть и она обработана подсознанием, то примерные варианты решений уже могут быть у тебя в башке. Это очевидно и без исследований.
К примеру, ты не знаешь что у тебя закончилось молоко. Поэтому ничего с этим не делаешь. Но если ты узнал, то ты даже без мысленного усилия имеешь варианты решения этой проблемы, аля заказать доставку, сходить в магаз или забить хуй. Готовое решение уже есть, и тебе не требуется мысленное усилие чтобы его принять. Особенно если там безальтернативность выбора аля, денег нет, остался вариант "забить хуй".
Но выбор всё равно только из тех вариантов, которые знает твой мозг. Ты не будешь иметь варианта "вызвать слугу и поручить ему купить молока", если у тебя нет и не было такого варианта в доступности.
Однако ты, как "оператор", всё равно её можешь нахуй послать. Поэтому утверждения вида "ты ничего не решаешь", выглядят для меня очень странно.
Ну назовём мы сознанием не надстройку в виде оператора, а то что за кадром решения принимает.
Какая, собственно, будет разница?
Если тебя пиздить или накачать наркотой, помутив сознание, то заставить тебя принять нужное решение труда особо не составит. Но не потому что существует какой-то фатум или ты тут в матрице нпц отыгрываешь.
наш мозг программируется поступающими сигналами извне и реагирует в соответствии с этим.
проводились множественные эксперименты, как люди меняют свое отношение к чему-то просто под действием музыки или цвета.
поэтому по настоящему свободы воли не существует, есть лишь только очень сложная система реакций.
Мощность нашего мозга по сравнению с компами просто невероятна, но проблема в том, что она создавалась стихийно и адски не оптимизирована. При всех проблемах современного железа, оно таки создается инженерами, и когда нужный уровень мощнастей таки будет достигнут, вероятно это будет конец человечества, потому что нафик мы обезьянки тут сдались тогда, со всеми своими кризисами, сомнениями, противостояниями, болезнями и т.д. и т.п.
Можно пофантазировать на тему нашей уникальности за счет огромного количества внутреннего рандома, с которым нам постоянно приходится сосуществовать. Он дает нам и свежесть впечатлений и культурное вдохновение и много чего еще. Но думаю компу будет совсем несложно его себе прикрутить, и опять же, сделать это более вдумчиво и к месту.
Ну да, человек в комнате не знает китайского. А вот автор инструкции - знает.
Монитор, на котором выводится информация - не знает что он там выводит, а процессор - знает.
Несведущему человеку может показаться, что компьютер это монитор. Хотя это не так.
В этом смысл мысленного эксперимента?
Просто если смысл в том, что типа без инструкций компьютер тебе ничего не выдаст, а значит его разумность как бы не ему принадлежит, а автору инструкций, то возникает вопрос: а человек без инструкций будет разумным?
Всякие там маугли не особо способны к обучению. Находятся на уровне обезьян. Может быть даже ниже.
Так что разум вполне может иметь именно информационную природу. Есть инструкции - есть разум. Нет инструкций - не разума.
А значит, разум машины и человека отличается лишь деталями, а не принципом.
Во-вторых, мне кажется, вы тут немного фейлите в понимании смысла китайской комнаты. Как мне кажется, эксперимент с комнатой не про доказательство её неразумности. Он про то, что оценка разумности наблюдателем-человеком на основе обычного общения - не надёжна. Ну просто потому что это не какой-то чёткий критерий, да и люди сами по себе нихуя не точный измерительный инструмент. Нас слишком легко наебать, мы слишком отличаемся по восприятию друг от друга, чтобы считаться нормальным измерительным прибором. Конечно составитель инструкции знает китайский, но суть не в знании, а в обмане наблюдателя снаружи комнаты. Точно так же создатели всяких чатгпт "обманывают" нас своими нейронками, которые, ты смотри, разговаривают прям как живые люди!
А тест Тьюринга полагается именно на это. ЧЕЛОВЕК должен пообщаться с компом и другим человеком и на основе своей способности определить, кто есть кто, выдать сертификат разумности. Никаких измерений и подсчётов, никакой "шкалы разумности", просто обычные эмперические наблюдения, которые в науке вроде как сто лет в обед считаются ну очень так себе аргументом. Это не значит, что Тьюринг тупой, а Сёрл умный. Просто Тьюринг свой тест придумал в 50-ом году 20-го века, когда компьютеры даже в шахматы играть не умели и занимали как минимум большой шкаф, а лучше целую комнату. Он банально устарел к текущему моменту раза так три.
Добавлю ещё один: тест Тьюринга и не все люди проходят.
> разум != программа
Я скажу ещё больше: интеллект != разум. Искусственный интеллект != полностью мыслящий аналог человека. Интеллект - это только первая ступень развития, за ней следуют разум и сознание.