LLM의 과학적 도약, 데이터 압축만으로 설명하기 어려운 이유

LLM의 과학적 도약, 데이터 압축만으로 설명하기 어려운 이유

AI 뉴스 썸네일

대규모 언어 모델은 방대한 사례에서 규칙을 찾고, 주어진 규칙으로 답을 계산하는 데 빠르게 능숙해지고 있어요. 한 OpenReview 논문은 여기서 한 걸음 더 나아가 새로운 설명의 출발점 자체를 만드는 능력을 묻고 있어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
추론	LLM은 귀납과 연역을 빠르게 자동화하고 있어요	기존 규칙 안에서 찾는 답과 새 규칙을 세우는 발견을 구분할 수 있어요
과학적 발견	논문은 아인슈타인의 등가원리를 귀추적 도약의 사례로 읽어요	관측 오차를 줄이는 일만으로는 설명하기 어려운 발견 과정을 다뤄요
다음 단계	행동할 수 있는 월드 모델과 환경 상호작용을 대안으로 제시해요	모델 크기뿐 아니라 경험을 만드는 실행 환경도 연구 대상이 돼요

1. LLM이 새 공리를 만드는 순간은 어떻게 생길까요

논문은 추론을 귀납, 연역, 귀추로 나눠 봐요. 귀납은 여러 사례와 결과에서 규칙을 찾는 과정이에요. 연역은 이미 주어진 규칙을 사례에 적용해 결과를 얻는 과정이에요. 지금의 생성형 AI는 이 두 영역에서 빠르게 성과를 내고 있다는 게 논문의 출발점이에요. 2

귀추는 관측된 결과를 설명할 새로운 가설이나 규칙을 세우는 과정이에요. 기존 규칙 안에서 후보를 많이 탐색하는 능력과는 결이 달라요. 논문은 과학자가 감각 경험과 사고실험을 통해 설명의 틀을 새로 만드는 순간을 ‘점프’라고 불러요. 이 구분을 받아들이면 AI의 창의성을 벤치마크 점수나 정답률만으로 판단하기 어려워져요.

728x90

아인슈타인의 등가원리를 사례로 든 이유

논문은 일반상대성이론이 단순한 데이터 압축의 결과였다는 해석에 의문을 제기해요. 당시 뉴턴 역학은 대부분의 관측을 매우 잘 설명했어요. 수성의 근일점 이동 같은 예외도 기존 이론을 버리기보다 아직 발견되지 않은 행성으로 설명하려는 시도가 있었어요. 데이터에 큰 오차가 쌓여 새 이론을 강하게 요구하던 상황과는 거리가 있었다는 설명이에요. 1

1907년 아인슈타인이 떠올린 등가원리는 자유 낙하하는 관찰자의 경험을 머릿속에서 모사하는 사고실험에서 출발했어요. 자유 낙하하는 동안 중력을 느끼지 못한다는 생각에서 가속과 중력을 구별할 수 없다는 새 원리를 세웠어요. 논문은 이 과정을 관측값의 통계적 일반화보다 ‘조작적 귀추’에 가까운 사례로 해석해요.

이 해석이 과학사의 유일한 설명은 아니에요. 아인슈타인도 당시의 전자기학, 로런츠 변환, 리만 기하학과 여러 실험 결과를 바탕으로 연구했어요. 저자 역시 후속 설명에서 “LLM은 과학적 발견을 절대 할 수 없다”라는 결론을 내린 것이 아니라고 선을 그었어요. 논문의 질문은 현재 방법을 더 키우는 데서 멈추지 않고, 물리적 직관에 가까운 도약을 AI에 어떻게 구현할지에 있어요. 1

행동할 수 있는 월드 모델이 필요한 이유

논문이 제안하는 방향은 환경에 직접 개입할 수 있는 월드 모델이에요. 영상의 다음 장면을 수동적으로 예측하는 모델보다 행동을 선택하고, 환경의 반응을 관찰하며, 반사실적 상황을 시험하는 모델에 더 큰 가능성을 둬요. 모델이 가설을 세운 뒤 조건을 바꾸고 결과를 비교할 수 있어야 새로운 설명을 만들 단서도 얻는다는 논리예요.

이 관점에서는 AI 에이전트의 실행 환경이 모델만큼 중요해져요. 고정된 목표와 평가 함수 안에서 수많은 후보를 찾는 시스템은 유용하지만, 목표와 표현 체계 자체를 바꾸는 발견까지 보장하지는 않아요. AI Scientist나 AlphaEvolve 같은 시스템의 탐색 능력과 새로운 과학 패러다임을 만드는 능력을 같은 것으로 취급하면 연구 과제를 너무 일찍 해결한 셈이 돼요.

왜 중요한가요

이 논쟁은 LLM의 능력을 낮게 평가하자는 얘기보다 평가 질문을 더 정확하게 만들자는 제안에 가까워요. ARC-AGI처럼 적은 사례에서 숨은 규칙을 찾는 시험은 귀추의 일부를 측정할 수 있어요. 하지만 모델이 환경을 바꾸고 새 관측을 만들어 가설을 검증하는 능력까지 함께 보여 주지는 못해요. 2

AI 연구팀이라면 정답을 맞혔는지만 볼 게 아니라 어떤 경험과 도구를 모델에 제공했는지도 살펴야 해요. 시뮬레이터, 로봇 센서, 코드 실행기, 실험 자동화 장비처럼 행동과 피드백이 이어지는 환경이 중요해질 수 있어요. 다만 ‘과학적 도약’의 기준 자체가 아직 정량적으로 합의되지 않았어요. 인간의 발견도 기존 지식, 협업, 우연한 관측이 얽혀 있어 한 가지 메커니즘으로 환원하기 어려워요.

논문이 던진 질문은 분명해요. 더 큰 모델이 기존 문제를 얼마나 잘 푸는지와, 아직 정의되지 않은 문제의 설명 틀을 스스로 만들 수 있는지는 따로 검증해야 해요. 앞으로의 AI 과학자 연구는 모델 크기 경쟁과 함께 상호작용할 수 있는 세계, 실험할 권한, 실패에서 새 가설을 만드는 과정을 다뤄야 해요.

참고 자료

1. LLM은 ‘점프’할 수 없다 — GeekNews
2. LLM의 과학적 발견과 귀추적 도약을 다룬 논문 — OpenReview