Состоялся мастер-класс "Дружит ли искусственный интеллект с естественным?"

3 февраля на базе НУЛ трансцендентальной философии состоялась первая встреча в рамках цикла мастер-классов об искусственном интеллекте с приглашенным исследователем А.Б. Хомяковым, после доклада которого последовала оживленная дискуссия.

Описание доклада А.Б. Хомякова:

«Доклад представляет собой вводную лекцию, задачей которой является осознание того, что понимается под искусственным интеллектом в наше время, какими способностями он обладает, а чего пока не может делать. Прежде всего необходимо озаботиться первым общим вопросом философии ИИ: может ли машина мыслить? В докладе представлена краткая история развития ИИ с 1950-х годов по сегодняшний день. Рассказывается о противостоянии символьного и нейросетевого направлений развития ИИ, активной эволюции первого во второй половине XX века и «зиме» второго. Указывается на недостатки, которые были обнаружены в символьном подходе (например, излишняя зависимость от записанных вручную знаний в виде пропозиций). В конце XX – начале XXI века нейросети как вид машинного обучения становятся доминирующим видом ИИ. Кратко описываются способы действий и обучений дискриминативных и генеративных (пример: приложения, стилизующие картинки некоторыми эффектами), классифицирующих и дополняющих (пример: сеть, порождающая тексты) нейросетей. Подчеркивается, что процесс обучения нейросети предполагает предоставление ей доступа к некоторой базе данных для самостоятельного обучения, какое же именно обучение или знание сформировалось в ходе этой операции остается загадкой. Ставится фундаментальный вопрос: обладает ли нейросеть интеллектом? Хотя современная нейросеть способна оперировать огромным количеством данных, копировать некоторые мыслительные операции, делать простейшие умозаключения и даже создавать объекты искусства (писать стихи, музыку и т. д.), ее способности все еще сильно ограничены и зависимы, что приводит к выводу о том, что интеллектом она не обладает. Нейросеть не способна делать новые выводы, которые будут выходить за рамки данных, на которых та была обучена. В докладе подчеркивается, что современная нейросеть работает как «мешок признаков», т. к. она не способна понять, в каком именно порядке они должны находиться и воспроизводиться, как понимает это человек, для нее важно только, чтобы они были представлены. Следующая проблема современных нейросетей заключается в том, что они не способны соотносить свои выводы со «здравым смыслом», определять, насколько они истинны по отношению к реальности. Нейросеть не рассуждает и не делает вывод логически. Помимо этого, она не способна к сравнению и созданию нового знания, она не обладает некоторой изначальной «решеткой» знания, которая всегда уже есть у человека. Отмечается, что в связи со всеми проблемами нейросетей, сейчас вновь возродился интерес к символьному подходу как возможности интеграции с нейросетями для их улучшения. В конце доклада в связи с вопросом о «решетке» кратко рассказывается о мысленном эксперименте “Мозги с манипулятором”.»

В ходе дальнейшей дискуссии участниками были затронуты такие темы, как обучение с подкреплением; проблема отсутствия у машины воображения; проблема неопределимости того, что есть человеческое мышление; вопрос об определении знания; наличие у человека априорных структур мышления и отсутствие их у машины; знание как целеполагание и отсутствие такого понимания знания у нейросети; проблема отношения человека к такому своему созданию, как ИИ; возможность понимания собственного мышления через попытку создания мышления у машины.

Электронная почта для связи с А.Б. Хомяковым: alexander.xom@gmail.com. С С.В. Данько: danko.sofia@gmail.com. Также запись встречи можно посмотреть на канале А.Б. Хомякова в YouTube (дата обращения - 16.02.2021).

Ответы на вопросы (и не только) А.Б. Хомякова:

От: Артур Низамов

Нейронные сети могут только повторять как попугаи, поэтому там нет мышления и нейронные сети - это тупиковый путь, чтобы создать сильный искусственный интеллект.

Возможно и так, но это тоже не доказано. Рассудит в этом вопросе нас только история. Может ли машина мыслить или нет, это доказуемо только на практике: если удастся, значит мыслит, если нет - нет. Все остальное – предположения. К тому же нейросети (как кажется многим) - это имитация интеллектуальных функций. Но когда мы не знаем, как «работает» наш интеллект, до конца уверенным в этом вопросе быть невозможно.

От: Aivan Fly

А кто докажет, что люди не просто повторяют миллионы мелких фактов и образов, рекомбинируя их в нечто новое?

Сначала надо доказать, что это так. Хотя бы показать, а потом уже опровергать. Возможно, что в поверхностной структуре, которую мы осознаем, мы видим только результат серии таких невидимых умозаключений. И ключевое тут – рекомбинация в нечто новое, так как фактов всегда не хватает для ответа на все вопросы. Вопрос, как это происходит.

От: Александр

Да, нейросеть - это больше обучение запоминанию. Но интеллект не сводится только к умению запоминать.

Нет, нейросеть все-таки способна к элементарным умозаключениям, что уже очевидно и что уже немного интеллект. И индуктивно обучается.

От: EgorGrishchenko

Т.е. чтобы адекватно воспринимать мир, ИИ требуется тело и присутствие в мире?

Возможно, что без этого не обойтись! Один из вопросов философии ИИ – возможен ли интеллект в одной модальности. Ведь мы представляем, как выяснили когнитивные лингвисты, даже лексические отношения в пространственных категориях.

От: Надежда Писарь

А как Вы относитесь к идее обучения нейросетей на концептах? Жизнеспособна ли она?

Пока сеть не способна к абстракциям. Она будет распознавать только то, что было в обучающей выборке – в том же конкретном представлении. А люди - да, как-то могут по общему описанию (концепции) узнать случай, факт, под нее подпадающий. И это еще один интересный вопрос и «трещина», в которую можно подсмотреть, чем отличается наш интеллект от машинного.

От: Виктор Казаринов

Кто-то занимается средним - не ИНС и не онтологиями?

Не знают, что это такое – среднее. Других структур нет.

От: Надежда Писарь

А выигрыш нейросети в покер?

https://neurohive.io/ru/novosti/nejroset-ot-facebook-pobedila-professionalnyh-igrokov-v-poker/ (дата обращения - 16.02.2021)

От: Артур Низамов

Интеллект проявляется в умении создавать решение проблемной задачи?

Да, мышление и есть решение задачи, проблемной, если новой (продуктивное мышление).

От: Виктор Казаринов

Ваш прогноз по созданию общей теории ИНС. А то пока мне видится, что каждая нейросетка - продукт виртуознсти ее авторов, двигающихся в темном лабиринте.

Так и есть, пока это конструктор, очень удобный для экспериментов с их архитектурой. И тут еще, очевидно, не все испробовано, так что об «общей» говорить очень рано. Пока инженеры исходят из принципа «А не попробовать ли вот так?» - и все. Интуиция их какая-то, конечно, ведет, но несильно.

От: Елена Шамарина

Мы пытаемся воссоздать в ИИ собственный интеллект, но, возможно, он не самый эффективный.

И это прямо очень хороший вопрос – а почему мы решили, что наш интеллект единственно возможный? И тем более эффективный, так как у клеточного организма много ограничений. Мы имитируем интеллект, а не воссоздаем по сути, и скорее всего придем не к повторению, а к другому виду интеллекта.

От: Виктор Казаринов

Возможно, что существуют более общие законы разума, которые можно применить к нам, инопланетянам и нашим будущим разработкам – СИИ.

Пока мы не поняли хотя бы один разум, нам трудно так обобщать. Это будет «пальцем в небо», то есть в сторону инопланетян :)

От: Olga Abramova

И психологи подтянутся к дискуссии о субъективности!

Вот уже междисциплинарное обсуждение завязывается. И это как раз очень продуктивно – диалог двух разных наук по третьему вопросу, вопросу ИИ.

От: Виктор Казаринов

Любой внутренний слой нейросети - скорее всего похож на один уровень частного случая онтологии-таксономии.

Нет, это уже не раз обсуждалось. Там вообще не термины в нашем понимании, а некие признаки, какие - мы точно не знаем, так как это интерпретация цифр, из которых этот слой состоит. В дискриминативных сетях в цифре кодируются признаки-различия, а в генеративных – сходства, близости. Вот какими словами вы можете описать различия между понятиями? И я не знаю :)

От: Николай Гурский

Если различать сознание и мышление, то можно избавиться от массы надуманных сознанием проблем. Мышление - бессознательно.

Это очень точная мысль, по-моему! Именно это я сделал в своих изысканиях, изложенных в книжке «О природе сознания и проблеме сознание-тело». Проблема исследователей сознания в том, что они его отождествляют то с вниманием, то с восприятием, то с мышлением (Аллахвердов В.), то со всем вместе. Но мы же как-то в понятиях сознание отделяем от них, значит оно представляет феномен, функцию, которая обладает отличительным, своим качеством. А значит, не тождественно им, самостоятельно. И по моим изысканиям - надстроено над ними. А само мышление бессознательно – это подтверждают и психологи. Мы осознаем только результат мышления, как этапы рассуждения. Инсайт тому красноречивый пример.

От: Артур Низамов

Сознание - это пространство, в котором происходит мышление

Хорошая метафора, которая стоит осмысления. Но именно метафора, потому что сознание не пространство, поэтому для научного подхода требует уточнения. Я это называю надстройкой над мышлением. В сознании мы можем программировать свои бессознательные шаги и сознавать их после их совершения. Сознание не совершает сами шаги. Вот важная особенность сознания.

От: Софья Данько

Некоторые считают, что никакого сознания нет, это просто "удобное слово", чтобы обозначить комплекс наших представлений.

Например, Д. Деннет :) Но это маловероятно, потому что мы что-то ощущаем, различаем, когда говорим, что осознаем. Мы что-то этим называем и отличаем его от других феноменов и состояний, как указал ниже Артур Низманов (можно потерять сознание). Например, только в сознании мы ощущаем «self». Без сознания мы бы, грубо говоря, не знали бы и себя.

От: Виктор Казаринов

Сознание - это как внимание: не некое образование, которое можно пощупать, а функция

Безусловно, как и все остальное, включая внимание. Хотя вот последнее уже относят (вслед за У. Найсером) к мышлению – мысленному обследованию картины.

От: Елена Шамарина

Сознание исторично, без ощущения времени нет памяти.

Или наоборот: без памяти нет ощущения времени. Может быть и так! :)