Машинный и человеческий интеллект, обновленное исследование
МЧИОИ 2024
«Интеллект – это человеческий конструкт, отражающий способность достигать целей» («Теория интеллекта: концепции, модели, следствия», Майкл Э. Хохберг). Просто и понятно, но интеллект не только у людей, да и что такое интеллект?
"Основной функцией интеллекта является обоснование – процесс соединения естественного языка и абстрактных знаний с внутренним представлением реального мира в разумном существе, например, в человеке" ("Основы искусственного интеллекта", Бинг Лю). Хороший поинт, только у интеллекта много больше основных функций.
"Рассмотрим пространство всех возможных форм интеллекта, которое можно назвать пространством интеллекта" ("Определение и исследование интеллектуального пространства", Пол С. Розенблум). Интересная концепция, но даже представить себе такое "пространство всех возможных форм интеллекта" – та еще задача, близкая к невыполнимой.
"В проблеме одинокого банана, согласно статистике, бананы на изображениях появляются по несколько штук, два и больше, поэтому ИИ не мог представить себе одиночный банан, потому что данные и параметрическая настройка не позволяли ему рассмотреть такой подход в среднем"("Проблема одинокого банана. Или новое программирование: “говорящий” искусственный интеллект", Дэниел Хук). Ничего удивительного, машинные модели могут использовать только шаблоны из обучающих данных и не могут сгенерировать что-то совершенно новое. Говоришь "AGI" – дайте два.
"Альфагеометрия – это нейро-символическая система, состоящая из нейро-лингвистической модели и механизма символической дедукции, которые работают вместе для поиска доказательств сложных геометрических теорем" ("Альфагеометрия: система искусственного интеллекта олимпиадного уровня для изучения геометрии", Трие Тринь и Тханг Луонг). Сродни идее из “Думать быстро и медленно” (Дэниел Канеман), одна система обеспечивает быстрые, “интуитивные” идеи, а другая – более обдуманное, рациональное принятие решений. Интересная идея, комбинированный подход, дополнительно можно использовать генерацию и исполнение кода.
"Искусственный интеллект может отличаться от естественного, но оба они могут вдохновлять друг друга, что может потребовать создания новых основ математической физики" ("Восемь проблем в разработке теории интеллекта", Хайпин Хуан). Есть такая шутка: "хочешь разобраться как это работает – запрограммируй это".
"В течение 20 лет машины будут способны выполнять любую работу, которую может сделать человек" – написал Герберт Саймон в 1960 году, который получил Нобелевскую премию по экономике и премию Тьюринга по информатике. Lol.
"Каждый интеллект специализирован, в том числе и человеческий. Интеллект – это набор навыков и способность быстро приобретать новые. Его нельзя измерить скалярной величиной. Никакой интеллект не может быть даже близко к общему, поэтому фраза "искусственный общий интеллект" не имеет смысла. Нет никаких сомнений в том, что машины со временем сравняются с человеческим интеллектом и превзойдут его во всех областях. Но даже эти системы не будут обладать "общим" интеллектом в любом разумном определении слова общий" (Ян Лекун). AI, AGI и т.п. – это просто маркетинг, не более того. Есть много вопросов, в каких областях и что могут делать машины. Компьютеры – это всего лишь инструменты, у них нет собственной воли. Некоторая модель воли возможна, но это будет всего-лишь модель, имитация. По-настоящему автономные системы, системы с самосознанием – это проекты очень далекого будущего.
"Люди не меняют своего мнения" (Дэниел Канеман). Спорное утверждение, есть и другие слова: "Люди думают одно, говорят второе и делают третье". Так что тут можно поменять?
"Пределы моего языка означают пределы моего мира" (Людвиг Витгенштейн). Это говорит о том, что язык играет ключевую роль во всем, интеллект и язык тесно связаны. Чтобы взломать интеллект, нужно взломать язык.
"Мой профессор по машинному обучению научил меня тому, что я никогда не забуду: Всегда фокусируйтесь на анализе и не беспокойтесь о коде. Копируйте код. Украдите его. Попросите кого-нибудь написать его за вас. Это не имеет значения. Кодировать легко. Знать, что кодить, – вот что действительно важно" (Сантьяго Вальдаррама). Это и отличает интеллект, понимать что важно, на чем следует сфокусироваться, а на что не стоит тратить ресурсы.
"ИИ можно считать, то, что имитирует когнитивные функции человека" (Игорь Ашманов). Неплохое определение, с учетом того, что у ИИ есть разные определения: сильный, слабый, общий ИИ и т.п. Можно самому дать еще одно определение, и оно будет иметь право на существование.
"Образование – это то, что остается после того, как человек забывает то, чему его учили в школе" (Альберт Эйнштейн). Да, именно так, знания и интеллект развиваются только в работе. Неиспользуемые знания отмирают и забываются.
"Правда об эмоциональном интеллекте. Для тех, кто им обладает, он во многом предсказывает успех" ("Правда об эмоциональном интеллекте. Для тех, у кого он есть, он предсказывает успех во многих отношениях", Психология сегодня). ЭИ – неотъемлемая часть интеллекта, возможно даже более значимая.
"Способность понимать мир, понимать физический мир, способность запоминать и извлекать вещи, стойкая память, способность рассуждать и способность планировать – это четыре основные характеристики интеллектуальных систем"(Ян Лекун). Не очень хорошее определение, что это значит: понимать мир, рассуждать, планировать? Дать хорошее определение интеллектуальным системам непросто, заменить одни абстракции другими – без проблем.
"Как предсказание следующего слова в больших языковых моделях (LLM) приводит к удивительно интеллектуальному поведению? … Эти модели продемонстрировали необычные способности, выходящие за рамки простого владения языком" ("Фрактальные паттерны могут раскрыть интеллект при предсказании следующего токена", Ибрагим Алабдулмосин, Винь Кью. Тран, Мостафа Дехгани). Нет ничего выдающегося, ничего интеллектуального, потому что все ответы заранее подготовлены вручную. Предсказание следующего токена – это просто способ вероятностного хранения и извлечения данных, тут нет никакого интеллекта. LLM можно рассматривать как интерактивный словарь или энциклопедию с расширенным языком запросов.
В своей работе 1950 года «Вычислительная техника и интеллект» Алан Тьюринг задал вопрос «Могут ли машины мыслить?» и ввел тест Тьюринга, чтобы проверить, могут ли машины достичь интеллекта человеческого уровня. Проблема в том, что можно создать эмуляцию мышления. Современные вычислительные системы способны обработать всю информацию, собранную человечеством, более того, для коррекции таких систем могут быть задействованы огромное количество людей-редакторов (AI-тренеров). Старый тест Тьюринга не имеет смысла, но можно разработать тест в котором не должно быть ранее известных типовых шаблонов рассуждений. Новый тест должен быть основан на способности генерировать и проверять гипотезы, строить вероятностные цепочки рассуждений, без возможности решить задачу перебором грубой силы.
