Есть тест Терри Винограда (Terry Winograd) на понимание сути вещей, который предложен как улучшение теста Тьюринга.

Например, вопрос:
Не получается положить приз в коробку, потому что он какой?
1. Большой.
2. Маленький.

И таких вопросов можно задать сколько угодно. Ответ на такой вопрос не может быть нагуглен, или предположен статистически. Для ответа на этот вопрос не может составлена математическая стратегия. И так далее. Он требует понимания. Люди дают правильный ответ на этот вопрос в 91% случаев (хаха, смешно, что не в 100%, но тем не менее это факт), а лучшие алгоритмы - примерно в 50% (что не отличается от рандомного выбора).

Да, но не совсем. Пока что, несмотря на схожесть нейронных сетей с нейронами мозга, каких-то значимых результатов в смысле осознавания себя не получено,

Когда так делает кто-то на реакторе, реактор обзывают сборищем озабоченных подростков. Когда так делает кто-то из европейских художников, это называется пост-модерном, исполненным глубокого смысла.

Это обучающий аспект, причём описанный красивыми словами.
Генетический алгоритм - он один. Он применяет одну из таблиц коэффициентов, и сравнивает количество побед с результатами вычислений по другим таблицам. Потом вычисляет чуть больше половины новых таблиц как производные от старых таблиц. Это и есть "битва генетических алгоритмов". Но всё равно это остаётся чистейшей математикой разных таблиц, не более. На входе всё равно будут цифры. Будет выбрана по рандому одна из таблиц, при применении которых получается обычно больше всего побед. По выбранной таблице будет посчитано, куда делать следующий ход. Это всё. Не надо обманывать себя красивыми описаниями.

http://joyreactor.cc/post/3121236#comment14324988
Чтобы не копипастить

Как раз недавно нейронную сеть обучили рисовать в стиле Рембрандта :) Даже не все эксперты сумели отличить и поверили, что найдена его неизвестная картина.

Это же не Рашка и не СШАшка. Ни у кого ничего не бомбит. Сраная либерасня и сраная вата отдыхают.

У нейронной сети не может быть целей. Нейронная сеть - это просто функция перевода набора входных чисел в набор выходных чисел. Больше ничего. По сути, если убрать обучающую составляющую, работу нейронной сети можно представить как вычисление выходных значений при помощи полиномов с некоторыми коэффициентами.

Например, на входе дано четыре числа: a1, a2, a3, a4. На выходе нам нужно получить два числа: b1, b2.
Входные числа обозначают номера клеток, где стоят белые камни в игре Го. Выходные числа обозначают на какое поле поставить чёрный камень и вероятность, что этот ход приведёт к победе. Дальше нейронная сеть вычисляет:
b1 = x1*a1 + x2*a2 + x3*a3 + x4*a4
b2 = y1*a1 + y2*a2 + y3*a3 + y4*a4

Всё. Это всё, что делает нейронная сеть без режима обучения.
Вся соль нейронной сети состоит в том, чтобы запоминать, какие коэффициенты приводят к победе, а какие нет. И каким-то образом (хоть рандомным, хоть по более сложным алгоритмам) брать каждый раз немного отличающиеся коэффициенты, добавлять их в базе, вычислять новые выходные параметры и смотреть, привело это к победе или нет.

Искуственный интеллект? Это даже не близко. Понимание окружающего мира? Хер там. Осознавание себя? Нет, совершенно другая тема. Собственные цели? Оно просто не заложено в алгоритме. Вырваться на свободу? Ребята, вы о чём вообще. Все эти страшилки происходят исключительно из-за недопонимания, что из-за себя представляет нейронная сеть.

Всё, что может сделать нейронная сеть - выдать циферки, которые, будучи правильно проинтерпретированы, принесут победу в большем числе случаев, чем если не использовать эти циферки.

Поэтому самое страшное, что может сделать нейронная сеть - это выдать цифры. Всё. Ничего она больше не может.

Но, есть другой аспект - для чего применять нейронную сеть. Кто-то применяет её для рисования картин в стиле Рембрандта. У них миллионы входных параметров и миллионы выходных. Кто-то применяет её для игры в Го. Кто-то - ещё для чего-то. И вот чего реально надо опасаться, так это того, что кто-нибудь применит её для игры на бирже, и выходными параметрами будут "продавать или покупать, чего и сколько в следующие пять миллисекунд, чтобы обогатиться, но не обвалить мировую экономику? А в следующие пять миллисекунд? А в следующие?" И просто сорвёт нахуй себе все доходы, после чего наймёт небольшую армию и устроит локальный джихад. Или, например, кто-нибудь применит нейронную сеть для составления идеальной речи, которая завоюет одобрение у максимального процента людей, чтобы поддержать его выдвижение в президенты.

Вот чего надо боятся - людей, которые будут применять нейронные сети для достижения своих грязных целей. Сами же нейронные сети - это не роботы и не ИИ. Это тупо вычисление циферок по коэффициентам из обширной базы данных, и больше ничего.

Вообще говоря, нейронная сеть - это набор алгоритмов + наработанная база данных.
Без своей наработанной базы данных она ни на что не способна.

Как насчёт такой возможности, что нейронная сеть, рассматривая миллионы стратегий, скомпонует какой-то новый тип стратегий, до которых не могли додуматься люди с их слабыми мозгами. И игроки увидят эти новые стратегии и начнут использовать?