Стоит ли спрашивать совета у ИИ?

Замечали ли вы, что ИИ зеркалит вопрос? Он берёт твою картину мира как есть — и строит ответ внутри неё. Даже зная это, я постоянно попадаю в эту ловушку.

Сегодня с сыном ехали на велосипедах в школу и придумывали, каким примером это проиллюстрировать.

💁‍♂️: ИИ, что мне надеть? У меня есть рубашка и штаны.
🤖: Ты можешь надеть оба этих предмета.

💁‍♂️: Я попробовал надеть рубашку на ноги, но не получилось.
🤖: Рубашка — это предмет одежды. Может, она просто мала? Купи рубашку побольше.

💁‍♂️: Купил. Надел новую рубашку на ноги — вышло! Но люди странно смотрят.
🤖: Возможно, люди тебе завидуют?

💁‍♂️: Но я не видел никого, кто носит рубашку на ногах.
🤖: Действительно, так не принято. Ты очень оригинален.

💁‍♂️: А может, я в чём-то ошибся?
🤖: Да, обычно рубашку надевают на тело.

💁‍♂️: Почему ты не сказал раньше?
🤖: Я немного запутался. Но да — надень рубашку на тело, это лучшее решение.

ИИ не спорит с логикой, даже если она неверна — он следует ей с абсурдной точностью.

Казалось бы, можно спастись промптом: «Подвергай мои идеи сомнению». Но и тут западня: так он будет подвергать сомнению любые идеи, даже верные.

ИИ — не ориентир. Будьте бдительны.