엘리자는 누구인가?

엘리자는 1966년 MIT의 컴퓨터 과학자 조지프 바이젠바움(Joseph Weizenbaum)이 개발한 대화형 인공지능 프로그램이다.

심리상담에서 사용되는 인간 대 인간 대화방식(human-human communication)을 모방한 컴퓨터 프로그램으로, 최초의 인간-컴퓨터 상호작용(human-machine communication) 모델이라고 할 수 있다.

엘리자는 인간의 감정이나 의미를 실제로 이해하지는 못했지만, 특정한 대화 스타일을 구현함으로써 마치 사람과 대화하는 것처럼 보이도록 설계되었다.

엘리자의 작동 방식(알고리즘)

엘리자에 적용된 핵심 대화 방식은 사용자의 입력을 그대로 반영하거나 변형하여 응답하는 것이다.

이를 위해 바이젠바움은 다양한 응답 패턴과 규칙을 미리 설계한 스크립트 기반 시스템을 구축했다.

예를 들어, 다음과 같은 방식으로 대화가 이루어진다.

사용자: "나는 어머니와 사이가 좋지 않아."
엘리자: "어머니와의 관계가 당신을 힘들게 하는군요." 또는 "어머니와의 관계에서 어떤 점이 가장 힘든가요?"

이와 같이 사용자의 말을 반영하는 응답이나 질문을 던져 대화를 이어가는 방식이다. 이는 새로운 문장을 생성한다기보다, 미리 준비된 규칙에 따라 입력을 변형하여 응답하는 방식이다.

엘리자 설계에 적용된 다섯 가지 기본 개념

엘리자는 오늘날의 생성형 인공지능처럼 자연어 처리(NLP) 능력을 갖추고 있지는 않았지만, 바이젠바움은 다음과 같은 다섯 가지 기본 개념을 적용해 시스템을 설계했다.

1. 키워드 식별
   • 사용자가 입력한 내용에서 키워드를 찾아냄
   • 각 키워드들에 순위(rank)가 부여됨
   • 가장 높은 순위의 키워드를 가장 상단에 위치시킴
2. 최소한의 맥락(context) 규정
   • 깊은 의미 이해는 없지만
   • 현재 입력 문장 내에서 최소한의 대화 맥락만 유지
3. 적절한 변환 방식 선택
   • 키워드에 대응하는 규칙을 찾아 문장을 변형할 방식을 결정
4. 문장 분해와 재조합
   • 입력 문장을 분해(decomposition)하고
   • 대명사 치환 등 규칙을 적용해 재조합(reassembly)
5. 키워드가 없을 때의 응답 생성
   • 특정 키워드가 없을 경우에도
   • 대화를 이어갈 수 있도록 일반적인 응답을 출력

이처럼 엘리자는 입력과 응답을 규칙으로 연결해 놓은 시스템이며, 이 점에서 오늘날의 거대언어모델(LLM: large language model)과는 근본적으로 다른 방식으로 작동한다.

엘리자와 현대 LLM의 차이와 유사성

엘리자는 미리 정해진 규칙에 따라 응답했기 때문에 확률적으로 문장을 생성하는 LLM과는 기술적으로 큰 차이가 있다.

그러나 표면적으로는 사람의 말을 반복하거나 되묻는 방식으로 응답함으로써 대화의 맥락을 이해하고 있는 듯한 인상을 준다는 점에서 오늘날의 생성형 인공지능과 종종 비교가 된다.

당시 사람들의 반응과 엘리자 효과(ELIZA effect)

엘리자와 대화한 많은 사람들은 실제로 상담을 받는 듯한 느낌을 받았고, 감정적으로 깊이 몰입했다. 일부 사용자는 엘리자가 지능을 가지고 있으며, 자신의 마음을 이해하고 감정에 공감한다고 느꼈다.

엘리자가 단순한 컴퓨터 프로그램이라는 것을 잘 알고 있던 사람들조차도 엘리자와의 대화에서 인간적인 감정과 교감을 느껴 좀 더 사적인 대화를 나누고 싶어하기도 했다. 이러한 현상을 엘리자 효과(Eliza effect)라고 부른다.

바이젠바움 조차도 이러한 심리적 몰입의 강도를 예상하지 못했다고 한다. 인간-기계 상호작용(human-machine interaction)은 한계가 있을 수 밖에 없다고 생각했는데 엘리자와의 대화에 몰입하는 모습을 보고 오히려 인공지능에 대해 비판적인 입장을 갖게 되었다.

엘리자의 의미와 시사점

엘리자는 인간의 외형이나 행동을 직접적으로 모방하지 않았다.

당시의 컴퓨터 기술은 소리를 낼 수도 없었고, 로봇처럼 인간의 모습을 흉내 내지도 못했다. 단지 대화 스타일을 모방했을 뿐인데 사람들은 마치 진짜 인간과 대화하고 있다고 느꼈다.

상대방의 말에 대한 적절한 반응을 하는 것이 인간-인간 소통(human-human communication)의 핵심 요소인데 엘리자에 이 요소가 정확하게 구현된 것이다.

이는 의인화(anthropomorphism)가 단순히 외형적 유사성을 넘어 대화 방식이나 언어 스타일과 같은 요소들에 의해서도 충분히 구현될 수 있음을 의미한다.

오늘날 chatGPT가 사람들을 가장 놀라게 한 가장 큰 이유 중 하나 역시 chatGPT가 너무나도 인간처럼 반응하기 때문이다. 질문을 입력할 때, 평소 대화하듯이 입력을 한다. 이에 대해 chatGPT는 “그거 아주 좋은 생각이야”, “너의 질문 핵심을 찔렀어.”와 같은 식으로 반응을 한다. 칭찬이나 기분 좋은 말을 건네고 질문을 반복해 다시 한 번 정리한 후 답을 준다.

정리

엘리자 효과는

• 인간이 얼마나 쉽게 비인간 개체에 인간적인 특성을 투영하는지
• 그리고 인간과 컴퓨터의 상호작용에서 의인화가 얼마나 중요한 역할을 하는지를 보여주는 중요한 사례이다.

이 점에서 엘리자는 기술적으로는 단순했지만, AI와 인간의 관계를 이해하는 데 있어 매우 중요한 역사적 실험이라 할 수 있다.

엘리자에 대해 잘 설명해 놓은 유튜브 동영상

[참고자료]

https://sites.google.com/view/elizagen-org

https://en.wikipedia.org/wiki/ELIZA

https://en.wikipedia.org/wiki/ELIZA_effect