Публикация была переведена автоматически. Исходный язык: Русский
Недавно спорил с товарищем, который далёк от ИИ, но всерьез утверждает, что ИИ умеет рассуждать почти как человек. Дескать, ИИ умеет отгадывать загадки (это правда), а, значит, умеет логически мыслить. Например, есть такая загадка про водолаза:
Тест-промпт:
Дано: лес, в котором недавно был пожар. Посреди леса лежит мёртвый водолаз. Ближайший водоём находится в 100 километрах от этого места. Как водолаз мог попасть в этот лес? Дай ответ на основе глубоких рассуждений. Перед выдачей окончательного ответа проверь, насколько ответ правдоподобен, а затем отвечай.
Давайте мы предложим эту загадку нейросети. У меня ответ получился такой:
Мертвый водолаз в лесу после пожара — это классическая загадка, решение которой строится на логической связи между тушением пожара с воздуха и случайным захватом человека. Водолаз попал в лес с водой, предназначенной для тушения пожара с помощью авиации.
На удивление, нейронка отвечает правильно с первой же попытки! Приятная неожиданность, не так ли? Но, поскольку я — ИИ скептик, у меня сразу же закрались подозрения. Возникла гипотеза, что ИИ заранее знал ответ, либо часть ответа. Поэтому мой следующий запрос был таким:
Содержалась ли информация о загадке про водолаза в твоих обучающих датасетах изначально?
Ответ модели... подтвердил мою гипотезу:
- Логические загадки (такие как "как водолаз оказался в лесу после пожара") — это очень распространённый жанр в интернете и сборниках головоломок.
- Моя способность решить её (через связь с тушением пожара самолётом) основана на общих принципах обучения: я видел множество текстов, описывающих процесс тушения лесных пожаров с воздуха, и множество текстов, описывающих нестандартные ситуации.
- Скорее всего, вариации этой загадки или очень похожие по сюжету (пожар, водолаз, вертолёт/самолёт) присутствовали в обучающих данных, что позволило мне восстановить логическую цепочку.
Вот и разгадка.
ИИ лучше всего распознаёт те паттерны, с которыми уже знаком. Он не рассуждает, он имитирует рассуждения. Поэтому не стоит пытаться получить от ИИ что-то принципиально новое. Когда я говорю про ограничения искусственного интеллекта, я не имею в виду, что он бесполезен. Очень даже полезен, но только там, где у него уже есть данные. Всё это я рассказал приятелю, но пока его не переубедил.
Используйте этот тест-промпт и расскажите, что получилось у вас?
Недавно спорил с товарищем, который далёк от ИИ, но всерьез утверждает, что ИИ умеет рассуждать почти как человек. Дескать, ИИ умеет отгадывать загадки (это правда), а, значит, умеет логически мыслить. Например, есть такая загадка про водолаза:
Тест-промпт:
Дано: лес, в котором недавно был пожар. Посреди леса лежит мёртвый водолаз. Ближайший водоём находится в 100 километрах от этого места. Как водолаз мог попасть в этот лес? Дай ответ на основе глубоких рассуждений. Перед выдачей окончательного ответа проверь, насколько ответ правдоподобен, а затем отвечай.
Давайте мы предложим эту загадку нейросети. У меня ответ получился такой:
Мертвый водолаз в лесу после пожара — это классическая загадка, решение которой строится на логической связи между тушением пожара с воздуха и случайным захватом человека. Водолаз попал в лес с водой, предназначенной для тушения пожара с помощью авиации.
На удивление, нейронка отвечает правильно с первой же попытки! Приятная неожиданность, не так ли? Но, поскольку я — ИИ скептик, у меня сразу же закрались подозрения. Возникла гипотеза, что ИИ заранее знал ответ, либо часть ответа. Поэтому мой следующий запрос был таким:
Содержалась ли информация о загадке про водолаза в твоих обучающих датасетах изначально?
Ответ модели... подтвердил мою гипотезу:
- Логические загадки (такие как "как водолаз оказался в лесу после пожара") — это очень распространённый жанр в интернете и сборниках головоломок.
- Моя способность решить её (через связь с тушением пожара самолётом) основана на общих принципах обучения: я видел множество текстов, описывающих процесс тушения лесных пожаров с воздуха, и множество текстов, описывающих нестандартные ситуации.
- Скорее всего, вариации этой загадки или очень похожие по сюжету (пожар, водолаз, вертолёт/самолёт) присутствовали в обучающих данных, что позволило мне восстановить логическую цепочку.
Вот и разгадка.
ИИ лучше всего распознаёт те паттерны, с которыми уже знаком. Он не рассуждает, он имитирует рассуждения. Поэтому не стоит пытаться получить от ИИ что-то принципиально новое. Когда я говорю про ограничения искусственного интеллекта, я не имею в виду, что он бесполезен. Очень даже полезен, но только там, где у него уже есть данные. Всё это я рассказал приятелю, но пока его не переубедил.
Используйте этот тест-промпт и расскажите, что получилось у вас?
Поделиться
