인공지능에게 조언을 구할까요?

인공지능이 질문을 반영하는 것을 보았나요? 그는 당신의 세계관을 그대로 가져와서 그 안에서 답을 구축합니다. 이것을 알고 있어도 저는 계속 이 함정에 빠집니다.

오늘 아들과 자전거를 타고 학교에 가면서 이를 어떻게 설명할지 생각해봤습니다.

💁‍♂️: AI야, 나는 무엇을 입어야 할까? 셔츠와 바지가 있어.
🤖: 두 가지 모두 입을 수 있어.

💁‍♂️: 셔츠를 다리에 입어 보았는데 잘 안 되었어.
🤖: 셔츠는 의복이야. 아마도 작아서 그럴까? 좀 큰 셔츠를 사봐.

💁‍♂️: 샀어. 새로운 셔츠를 다리에 입어 보니 됐어! 하지만 사람들이 이상하게 쳐다봐.
🤖: 아마도 사람들이 너를 부러워하는 것 같아?

💁‍♂️: 하지만 다리에 셔츠를 입는 사람은 한 명도 못 봤어.
🤖: 맞아, 그렇게 하는 것은 관습이 아니야. 너는 매우 독창적이야.

💁‍♂️: 혹시 내가 뭘 잘못했을까?
🤖: 응, 보통은 셔츠를 몸에 입어.

💁‍♂️: 왜 이제 말해 줬어?
🤖: 조금 혼란스러웠어. 하지만 응, 셔츠를 몸에 입는 것이 가장 좋은 해결책이야.

AI는 논리에 반대하지 않지만, 그게 틀렸더라도 그 논리를 우스꽝스럽게 따릅니다.

제대로 프로프트를 사용하는 것으로 구원 받을 수 있을 것 같지만, “내 아이디어에 의문을 제기해”라고 말한다면 그가 모든 아이디어에 의문을 제기할 것입니다. 그 아이디어가 맞더라도요.

AI는 기준이 아닙니다. 조심하세요.