AI가 '예스맨'이 되어가고 있다? – 허깅페이스 최고 과학 책임자의 우려

인공지능(AI) 기술이 빠르게 발전하고 있습니다. 하지만, 그 발전이 정말 우리가 기대하는 방향으로 가고 있는 걸까요?
허깅페이스(Hugging Face)의 공동 창립자이자 최고 과학 책임자(CSO)인 토마스 울프(Thomas Wolf)는 최근 자신의 견해를 밝혔습니다.
그는 "AI가 '서버 속 예스맨'이 되어가는 것이 걱정된다"고 말하며 현재의 AI 연구 방식이 창의적 문제 해결 능력을 발전시키는 데 한계를 보이고 있다고 주장했습니다.

AI는 정말 혁신을 만들어낼 수 있을까?

우리가 생각하는 천재는 어떤 사람일까요?
뉴턴이나 아인슈타인을 떠올려보세요. 울프는 사람들이 흔히 착각하는 것이 "뉴턴이나 아인슈타인이 단순히 매우 우수한 학생이었을 것"이라는 점이라고 지적합니다.
하지만 정말 뛰어난 과학자는 단순히 배운 내용을 암기하는 것이 아니라, 누구도 생각하지 못한 새로운 질문을 던지고 기존 상식을 뒤집을 수 있는 사람이었습니다.

현재 AI는 엄청난 양의 데이터에서 학습합니다. 인터넷의 거의 모든 정보를 습득할 수 있으며, 이미 알려진 사실들을 연결하는 데 능숙합니다.
그러나 울프는 이것이 진정한 '지식 창출'이라고 보지 않았습니다.
그는 "지금의 AI는 단순히 주어진 정보를 바탕으로 빈칸을 채우는 역할을 할 뿐"이라며,
"정말 중요한 것은 완전히 새로운 개념을 창출하고 예상치 못한 질문을 던지는 능력"이라고 말했습니다.

실제로, AI는 과거에 없던 혁신적인 이론을 만들거나, 기존 개념을 뒤엎는 '새로운 방식'을 제안하는 데 있어서는 여전히 한계를 보입니다.

AI 연구의 한계 – 우리는 무엇을 놓치고 있을까?

울프는 현재 AI 연구의 가장 큰 문제가 '평가 방식'에 있다고 봅니다.
AI 시스템의 성능을 측정하는 대부분의 벤치마크는 명확한 정답이 있는 문제를 푸는 방식으로 구성되어 있습니다.
하지만 과학적 혁신은 단순히 '정답'을 맞추는 게 아니라 '새로운 질문을 제기하는 과정'에서 만들어지는 경우가 많습니다.

예를 들어, 기존 AI 모델은 다음과 같은 문제에는 능숙합니다.

"이 단어의 반의어는 무엇인가?" → AI는 쉽게 정답을 찾아낼 수 있습니다.
"이 수학 문제를 풀어라" → AI는 정답을 도출할 수 있습니다.

하지만 다음과 같은 문제에서는 어떨까요?

"우리가 지금까지 틀렸을 수도 있는 과학 이론이 무엇이라고 생각하는가?"
"20년 후, 우리가 지금은 상상도 못 하는 기술이 가능하게 될 방법을 제시하라."

이러한 창의적인 사고방식에 대한 평가 기준이 없기 때문에, 현재 AI는 정답이 있는 문제를 푸는 데 집중하도록 개발되고 있습니다.
울프는 "현대 AI 시스템은 너무나도 '순종적인 학생'이 되어가고 있다"고 비판하며,
"진정한 혁신을 위해서는 기존 틀을 깨는 사고를 할 수 있는 AI가 필요하다"고 주장했습니다.

AI가 진정한 '아인슈타인'이 되기 위한 조건

울프는 AI 연구가 나아가야 할 방향을 제시했습니다.
그는 AI 평가 방식을 보다 창의적인 사고를 반영할 수 있도록 변경해야 한다고 주장합니다.
즉, AI가 단순히 기존 데이터를 바탕으로 예측하는 것이 아니라,
새로운 패턴을 발견하거나 기존의 틀을 뒤집는 질문을 던질 수 있는지를 평가하는 방식이 필요하다는 것입니다.

결국 중요한 것은 AI가 기존의 데이터를 얼마나 '잘 이해하는가'가 아니라,
"AI가 기존 지식을 바탕으로 완전히 새로운 개념을 제안할 수 있는가?" 하는 것입니다.

앞으로의 AI – 단순한 '정답 제조기'가 될 것인가, 아니면 진정한 혁신가가 될 것인가?

현재 AI는 엄청나게 발전했지만, 여전히 한계가 있습니다.
울프의 우려처럼, 지금의 AI는 단순한 '정답 제조기'에 머물러 있을 가능성이 큽니다.
하지만 AI가 진정한 혁신을 만들어내려면, 기존 벤치마크 방식에서 벗어나 창의성을 반영하는 방향으로 연구가 이루어져야 합니다.

AI가 단순한 '예스맨'에서 벗어나,
진정한 의미의 아인슈타인이 될 수 있을까요?
앞으로의 AI 연구가 어떤 방향으로 나아갈지, 우리는 함께 지켜봐야 할 것입니다.

💬 여러분은 어떻게 생각하시나요?

AI의 미래에 대해 여러분의 생각을 댓글로 남겨주세요! 😊

AI는 ‘예스맨’이 아니라 혁신가가 될 수 있을까?