[정창식]과학의 진실:직관과 데이터 사이에서

[사이언스 칼럼]정창식 한국기초과학지원연구원 오창센터장

▲ 정창식 한국기초과학지원연구원 오창센터장

법관은 판결로써 말하고, 장인은 작품으로 말하듯이 과학자는 논문으로 말한다. 과학자라는 직업이 가지는 큰 매력은 일의 성취가 논문이라는 기록으로 남는 것인데, 그 기록은 먼 훗날의 연구에 있어서도 중요한 참고자료가 된다. 따라서 과학자들은 자신이 실험한 데이터를 해석하고 다른 연구와의 연관성 내지 차별성을 서술할 때 이례적으로 가혹한 검증을 요구받으며 또 그것을 당연하게 받아들여야 한다.

그런데 과학자들이 부딪히는 문제점 중의 하나는 실험의 결과가 예측했던 바와 일치하지 않는 경우가 많다는 것이다. 사실 실험결과의 참값은 인간이 알 수 없다. 아무리 첨단 도구를 사용한다고 해도 모든 종류의 실험에는 불가피하게 오차가 수반된다. 그래서 어떤 저명한 학자는 실험결과를 얻는 것 자체보다 그 결과의 진정한 오차를 평가하는 것이 더 어렵다고 말하기도 했다.

실험결과의 오차를 정확하게 모른다면 데이터의 분포가 오차 때문인지 아니면 자연법칙에 지배된 것인지 판단할 수 없다. 그 전형적인 예로 지구행성과학 분야의 유명한 논쟁거리인 니오디미움(Nd) 동위원소 142의 이상치(anomaly) 흔적을 들 수 있다. Nd-142의 모핵종은 사마리움(Sm) 동위원소 146인데 지구 생성 당시에는 존재했었지만, 상대적으로 짧은 반감기(약 1억년)때문에 자연방사성 붕괴에 의해 현재에는 거의 남아있지 않다.

1990년대에 논쟁이 시작될 당시 이 연구의 가장 큰 문제점은 'Nd-142의 이상치'에 대한 이론적인 계산값이 질량분석기의 분석 오차 크기와 큰 차이가 없는 수준이라는 데 있었다. 이러한 문제는 첨단분석장비의 개발에 따라 점차적으로 해결되고 있지만 실험결과의 오차가 꼭 장비로부터만 유래되는 것은 아니다. 예를 들어 우리가 실험을 하는 동안 잰 무게의 기록은 사실 참값일 수 없는 것이 정전기나 습도 변화, 저울의 자체적인 떨림 때문에 어느 정도의 오차는 필수적으로 수반되며, 사람의 손이나 용기를 통해 미세한 시료 오염 또한 완벽하게 방지할 수는 없는 것이다. 이러한 본질적인 오차를 과학적으로 극복하기 위한 도구가 바로 통계이기도 하다.

데이터 분포가 분명히 오차 때문은 아닌데 실험 전에 예상했던 결과로부터 벗어날 때 과학자들은 그를 무시하고 싶은 충동에 사로잡히기도 한다. 그런데 사실 그 때 실험자는 과학적 성공의 첫걸음에 서 있을 수도 있으며, 이는 평범한 예측의 끝에 위대한 성취가 있는 경우는 거의 없는 것과 같은 셈이다. 그렇다고 해도 직관의 눈이 밝지 못해 큰 법칙의 사소한 예외에 집착할 경우 시간과 경비만 낭비하고 큰 성취를 이루지는 못한다.

뉴턴이나 멘델과 같이 위대한 과학자도 일종의 데이터 조작을 통해 자신의 이론을 정당화시켰다는 이야기를 들은 적이 있지만, 대가의 옥석가리기와 의도적인 데이터 조작은 전혀 다른 것이다. 필자는 이미 몇 십 년 전에 발표된 대가들의 논문에서 현재 우리가 얻고 있는 실험결과를 예측하거나 암시하는 경우를 흔히 본다. 그것은 그들이 당시 비록 구현 도구, 즉 실험 장비의 미비로 한정된 수의 데이터만 보여주었거나 아예 결과를 보여주지 못했지만 건전한 가정에 기반을 둔 직관의 힘을 가졌기에 가능했던 일일 것이다.

필자가 전공하고 있는 동위원소 지구화학 분야만 하더라도 현재에는 1조분의 1 (ppt) 범위의 극미량 동위원소에 대한 분석이 첨단분석장비에 의해 이루어지고 있다. 만약 전 세계 인구가 모두 검은 옷을 입고 있는데 단 한명만이 흰 옷을 입고 있는 경우를 가려낼 수 있는 수준보다 100배 이상 더 정밀한 분석 능력을 가지고 있는 셈이다. 이러한 첨단장비를 이용하는 것이 불가능했던 과거에 이미 결과를 잘 예측했던 논문을 볼 때면 새삼 인간의 이성에 경의를 표하지 않을 수 없다.

이런 직관의 힘은 상상을 초월하는 분량의 학습이 쌓여 얻어지는 것이 분명한 것으로 엄청나게 노력하지 않는 대가를 본 적도 들은 적도 없기 때문이다. 또 그들은 검증에 대해 교묘하게 회피하거나 두려워하기는 커녕 오히려 그것을 즐긴다. 제도적인 면을 본다면, 건전한 비판을 위해 학회지에는 항상 비평과 회신(comments and reply), 또는 토론광장(forum) 난을 싣고 있으며 심사과정에서 걸러지지 못했던 많은 내용들이 그를 통해 토의되고 있다.

언젠가부터 우리 과학계에서는 심심치 않게 데이터 조작이나 표절이라는 단어가 들려오고 있다. 분명한 것은 과학적인 진실은 건전한 직관과 엄정한 데이터에 의해 드러나지, 결코 어설픈 추측이나 조작에 의해 밝혀지지는 않는다는 점이다. 이를 아는 대부분의 과학자들은 오늘도 계측기의 스펙트럼이나 영상을 있는 그대로 바라보면서 자신만의 이론을 가다듬고 있을 것이다.