2023년 CHI학회 논문을 리뷰하였습니다. AI의 보조적 설명과 질문을 통해 사용자들의 논리적 인식력을 높여줄 수 있음을 연구하였습니다.

1. 2023.05.04
유선경
Don’t Just Tell Me, Ask Me :
AI Systems that Intelligently Frame Explanations as
Questions Improve Human Logical Discernment
Accuracy over Causal AI explanations
Valdemar Dairy (MIT) 외
Human AI Collaboration_A
지능적으로 설명을 질문화하여 인간의 논리적 인식력을
높일 수 있는 방법을 연구한 논문

2. •지식in & 챗GPT 프롬프트 시대의 정보 수용 능력
-> 사실이 아닌 것을 사실처럼 말하는 Hallucination
-> 답변을 어떻게 수용하는지가 중요해질 것 같음
-> 유저의 수용 태도도 중요하지만, HCI적인 측면에서는
어떻게 답변을 잘 설계할 수 있을까?
2023.05.04
유선경
1. Why This paper?

3. Research Question
• 인간은 혼자 작업할 때보다 AI 시스템으로부터 피드백을 받을 때 사회적으로 분쟁적
인 진술의 논리적 타당성을 더 잘 식별할 수 있는가?
2023.05.04
유선경
실험자 204명
10개의
사회 분쟁적
Statement
무설명
인과적 AI 설명
질문형 AI 설명
Statement와
AI 설명이
Logical valid
한지
설문 진행
랜덤 배치
Method
2. 정보에 대한 AI의 피드백 방법으로
인간의 논리적 타당성 식별력을 높일 수 있을까?
Related Research
• 인간은 AI 매개 정보에 대해 스스로 비판적으로 사고하는 인지 자원 사용을 중단함

4. 2023.05.04
유선경
Casual AI Explanation
AI가 Statement에 따른
논리가 유효한지/유효하지 않은지에 대한
인과적 설명 제공
AI-framed Questioning
AI가 Statement에 따른
논리가 유효한지/유효하지 않은지에 대한
질문 제공

5. 2023.05.04
유선경
3. Take away
Result
• AI-framed Questioning은 인간의 논리적 인식력을 높여줄 수 있음
Take away
• AI로 정보를 습득하게 되는 프롬프트 UX에서 적용 고려할 수 있을 것 같음
• 잘못된 정보, 논리적 타당성에 대한 의심할 수 있는 AI 기반 의사결정에 대한
장치를 적용하는 것이 더욱 중요해질 것 같음
Weighted discernment accuracy Information Insufficiency rating Study duration
무설명
Casual
Questioning