학생들과 데이터학습을 하면서 종종 들리는 단어들이 있었습니다.
“이렇게 정상적인 데이터만 넣으면 과적합(overfitting)될 텐데...”,
“이런 방식은 결국 자명한 해답(trivial solution)에 불과하죠.”
처음에는 단순한 기술적 용어라고 생각했지만, 점차 이 두 가지 개념이 효과적인 인공지능 설계의 핵심 기준이 된다는 것을 깨닫게 되었습니다.
overfitting이란 과적합(過適合)으로 번역되는데 목적에 부합하는 데이터들로만 학습시키게 될 때 이를 가지고 실제 현실을 예측하는데 실패할 가능성이 높아지는 현상입니다. 마치 학교에서의 모범생이 사회로 나왔을 때 부적응자가 되는 상황과 비슷합니다. trivial solution이란 자명해(自明解)로서 설명하거나 증명하지 아니하여도 저절로 알 만큼 명백한 도출을 말함입니다. 예컨대 원주율의 소수점 이하 값을 끝도없이 구하는 행위와 같은 것입니다. 비록 기술적인 개념이긴하나 일상에도 적용할만한 통찰을 줄 수 있는 개념으로 여겨져 저 자신도 일할 때나 현상을 분석할 때나 심지어 수행에도 이를 적용해봅니다.
거시적 관점에서 사회 현상을 볼 때 우리가 일상적으로 당연하게 여기는 일들이야말로 과적합에 가깝습니다. ‘당연하다’라는 말 자체가 사고가 이미 그 관점으로 ‘과적합되있다’라고 동치해도 무방합니다. 최근 한국 사회에서 벌어지고 있는 황당한 정치적 이슈들을 바라볼 때 모두가 이는 특정 개인의 문제 혹은 정당의 부도덕성, 무능에 기인하므로 이 원인을 제거하고 더 나은 선택지로 대체한다면 해결은 아니더라도 개선은 될거라 믿고 있습니다. 그러나 보다 본질적으로 선거 민주주의 자체에 결함이 있고 수백 혹은 수천년도 더 된 빛바랜 제도를 현대적으로 재해석하여 진보된 기술로 보다 적합한 시스템을 창조하려는 생각은 별로 들리지 않습니다. 이대로 새로운 대통령을 선출한다면 이는 정확히 ‘자명해’로서 귀결될 뿐입니다.
우리의 일상은 어떤가요? 대부분 눈 앞에 닥친 공부, 시험, 직장 일에 매몰되어 허덕이며 살아가고 있지 않은가요? 달리 보자면 세상에 보다 적합하고자 스스로의 행위를, 심지어 사고체계까지 과적합 상태로 만들어버립니다. 스스로가 누구인지 나의 독자적 생각과 계획은 무엇이었는지 모호해져버리고 타인이 주입한 의도대로 움직이는 좀비처럼 되어 버립니다. 오직 남은 유일한 의지는 생존으로서, 원초적인 본능인 식욕과 성욕만이 남아 이를 지탱해줄 수 있는 상징적인 수단인 화폐가치만를 우상화하게 됩니다. 이 코스에서 벗어난, 벗어날 수 있는, 벗어나고자 하는 사람은 몇이나 될까요?
물론 자신에게 주어진 일을 성실히 수행하는 노력이 선하고 칭찬할만하지 않냐고 반문할 수 있습니다. 세상의 관점에서는 맞는 얘기지만 바른 수행의 기준에서 보자면 yes and no라고 대답할 수 있습니다. 문제는 눈앞의 일에 집중하다보면 마치 그 일이 세상의 전부인양 착각에 빠지게 됩니다. 더 신경쓰고 노력할수록 아이러니하게 문제는 해결되지 않고 설사 해결되더라도 본질적인 해소가 아닌 임시방편에 불과하여 같은 문제가 재발하게 됩니다.
부처님은 이를 빠빤짜(Papañca, 희론(戱論)의 개념으로 설명하십니다. 희론이란 불필요한 사유의 확장을 의미하며, 어떤 대상을 세밀하게 분석할수록 개인적인 상상력이 덧붙여져 실체 없는 개념이 만들어지는 과정입니다. 희론에 오염되었을 때 필요 이상으로 공포를 느끼거나 불합리한 낙관적인 전망을 하는 등 비이성적 결론에 도달하고 결국 실제 행위로 옮겨지게 됩니다. 즉 ‘보고싶은 것만 보게 되는’ 상황에 이르러 ‘의도된 결론’에 이르게 됩니다. 이는 데이터 학습에서 종종 오류에 빠지는 과적합-자명해의 도식과 정확히 일치합니다. 인공지능 알고리즘 학습에서 이 오류에 빠지지 않고자 의도적으로 데이터 세트에 잘못된 데이터 (true negative)를 포함시킵니다. 설사 내가 알고 싶지 않은 사실이나 부정적 전망을 유도할 데이터라도 사실에 근거한다면 이들을 포함시켜 데이터 훈련을 해야 현실 예측의 정확도가 높아지게 됩니다.
사소함에 집착, 경중의 임의적 설정은 수행 과정에도 일어납니다. 예컨대 수행 장소에 너무 익숙해진 수행자가 다른 장소에서는 수행할 수 없다 라고 생각하거나 작은 소음에도 과민하게 반응한다면 ‘과적합’의 상황에 빠져있다고 진단할 수 있습니다. 또 다른 예로 수행 중 경험하는 환상에 몰두하여 이를 의도적으로 구한다면 ‘자명해’를 추구한다고 볼 수 있습니다. 결국 위빠사나란 vi + passati 의 어원으로 구성된 뜻으로 ‘나누어 본다 (divide and see)’의 뜻으로 구성되어 있습니다. 이는 과적합과 정반대의 개념으로, 순간순간을 있는 그대로 바라보는 것입니다. 인간이 선과 악, 진리와 환상, 참과 거짓을 구분하기 전에, 그 모든 것이 공존하는 현실을 투명하게 관찰하는 것이 목표입니다. 이러한 마음가짐을 훈련하면 삶의 어려움을 마주했을 때도 쉽게 ‘자명한 결론’에 도달하지 않습니다.
설령 연속적인 불행을 겪는다 하더라도,
“나는 저주받은 운명이야.”
라고 단정 짓는 대신, 감옥에 있든 병상에 있든 창밖으로 떠오르는 찬란한 아침 해를 바라보며, 또는 한 끼의 식사를 마주하며 소소한 기쁨이 삶 속에 여전히 존재함을 깨닫게 됩니다.
부처님께서는 다음과 같이 말씀하셨습니다.
“벗들이여, 시각과 형상을 조건으로 시각의식이 생겨나고,
그 세 가지를 조건으로 접촉이 생겨나며,
접촉을 조건으로 느낌이 생겨난다.
그리고 느낀 것을 지각하고,
지각한 것을 사유하며,
사유한 것을 희론하고,
희론을 토대로 과거·현재·미래에 걸쳐
희론에 오염된 지각과 관념이 일어난다.”
— 마두삔디까경(Madhupiṇḑikasutta, 꿀과자의 경, M18)
아무리 “객관적으로 제대로 봐야지.”라고 다짐해도, 욕망에 오염된 마음은 바른 견해(正見)를 가질 수 없습니다. 바른 견해가 없으면 바른 사유(正思惟)가 불가능하고, 결국 바른 실천(正精進)으로 이어지지 않습니다. 그 결과, 현실적으로도 도덕적으로도 의미 없는 삶을 흘려보내게 됩니다. 그러므로 매 순간 의식의 정교한 객관화를 추구해야하고 이를 위해선 사띠가 습관처럼 이어져야함이 선결 요건입니다. 그 많은 가르침을 배우고 고된 수행을 했어도 결국 싯타르타의 깨달음의 단초는 어릴적 맘 편히 앉아 있는 그대로를 보았을 때의 경험이었습니다. 밖에 있었던 것도 아니었고 남에게 들어서도 아니었듯 다르마에서 창조된 세상에 존재하는 깨어있는 마음으로서 평온하게 순간순간을 인지함이, 존재와 공명함이, 행복이지 않나 합니다.
과천·합천·제주 통합번호 064-744-2841
vip-borisu@hanmail.net
학생들과 데이터학습을 하면서 종종 들리는 단어들이 있었습니다.
“이렇게 정상적인 데이터만 넣으면 과적합(overfitting)될 텐데...”,
“이런 방식은 결국 자명한 해답(trivial solution)에 불과하죠.”
처음에는 단순한 기술적 용어라고 생각했지만, 점차 이 두 가지 개념이 효과적인 인공지능 설계의 핵심 기준이 된다는 것을 깨닫게 되었습니다.
overfitting이란 과적합(過適合)으로 번역되는데 목적에 부합하는 데이터들로만 학습시키게 될 때 이를 가지고 실제 현실을 예측하는데 실패할 가능성이 높아지는 현상입니다. 마치 학교에서의 모범생이 사회로 나왔을 때 부적응자가 되는 상황과 비슷합니다. trivial solution이란 자명해(自明解)로서 설명하거나 증명하지 아니하여도 저절로 알 만큼 명백한 도출을 말함입니다. 예컨대 원주율의 소수점 이하 값을 끝도없이 구하는 행위와 같은 것입니다. 비록 기술적인 개념이긴하나 일상에도 적용할만한 통찰을 줄 수 있는 개념으로 여겨져 저 자신도 일할 때나 현상을 분석할 때나 심지어 수행에도 이를 적용해봅니다.
거시적 관점에서 사회 현상을 볼 때 우리가 일상적으로 당연하게 여기는 일들이야말로 과적합에 가깝습니다. ‘당연하다’라는 말 자체가 사고가 이미 그 관점으로 ‘과적합되있다’라고 동치해도 무방합니다. 최근 한국 사회에서 벌어지고 있는 황당한 정치적 이슈들을 바라볼 때 모두가 이는 특정 개인의 문제 혹은 정당의 부도덕성, 무능에 기인하므로 이 원인을 제거하고 더 나은 선택지로 대체한다면 해결은 아니더라도 개선은 될거라 믿고 있습니다. 그러나 보다 본질적으로 선거 민주주의 자체에 결함이 있고 수백 혹은 수천년도 더 된 빛바랜 제도를 현대적으로 재해석하여 진보된 기술로 보다 적합한 시스템을 창조하려는 생각은 별로 들리지 않습니다. 이대로 새로운 대통령을 선출한다면 이는 정확히 ‘자명해’로서 귀결될 뿐입니다.
우리의 일상은 어떤가요? 대부분 눈 앞에 닥친 공부, 시험, 직장 일에 매몰되어 허덕이며 살아가고 있지 않은가요? 달리 보자면 세상에 보다 적합하고자 스스로의 행위를, 심지어 사고체계까지 과적합 상태로 만들어버립니다. 스스로가 누구인지 나의 독자적 생각과 계획은 무엇이었는지 모호해져버리고 타인이 주입한 의도대로 움직이는 좀비처럼 되어 버립니다. 오직 남은 유일한 의지는 생존으로서, 원초적인 본능인 식욕과 성욕만이 남아 이를 지탱해줄 수 있는 상징적인 수단인 화폐가치만를 우상화하게 됩니다. 이 코스에서 벗어난, 벗어날 수 있는, 벗어나고자 하는 사람은 몇이나 될까요?
물론 자신에게 주어진 일을 성실히 수행하는 노력이 선하고 칭찬할만하지 않냐고 반문할 수 있습니다. 세상의 관점에서는 맞는 얘기지만 바른 수행의 기준에서 보자면 yes and no라고 대답할 수 있습니다. 문제는 눈앞의 일에 집중하다보면 마치 그 일이 세상의 전부인양 착각에 빠지게 됩니다. 더 신경쓰고 노력할수록 아이러니하게 문제는 해결되지 않고 설사 해결되더라도 본질적인 해소가 아닌 임시방편에 불과하여 같은 문제가 재발하게 됩니다.
부처님은 이를 빠빤짜(Papañca, 희론(戱論)의 개념으로 설명하십니다. 희론이란 불필요한 사유의 확장을 의미하며, 어떤 대상을 세밀하게 분석할수록 개인적인 상상력이 덧붙여져 실체 없는 개념이 만들어지는 과정입니다. 희론에 오염되었을 때 필요 이상으로 공포를 느끼거나 불합리한 낙관적인 전망을 하는 등 비이성적 결론에 도달하고 결국 실제 행위로 옮겨지게 됩니다. 즉 ‘보고싶은 것만 보게 되는’ 상황에 이르러 ‘의도된 결론’에 이르게 됩니다. 이는 데이터 학습에서 종종 오류에 빠지는 과적합-자명해의 도식과 정확히 일치합니다. 인공지능 알고리즘 학습에서 이 오류에 빠지지 않고자 의도적으로 데이터 세트에 잘못된 데이터 (true negative)를 포함시킵니다. 설사 내가 알고 싶지 않은 사실이나 부정적 전망을 유도할 데이터라도 사실에 근거한다면 이들을 포함시켜 데이터 훈련을 해야 현실 예측의 정확도가 높아지게 됩니다.
사소함에 집착, 경중의 임의적 설정은 수행 과정에도 일어납니다. 예컨대 수행 장소에 너무 익숙해진 수행자가 다른 장소에서는 수행할 수 없다 라고 생각하거나 작은 소음에도 과민하게 반응한다면 ‘과적합’의 상황에 빠져있다고 진단할 수 있습니다. 또 다른 예로 수행 중 경험하는 환상에 몰두하여 이를 의도적으로 구한다면 ‘자명해’를 추구한다고 볼 수 있습니다. 결국 위빠사나란 vi + passati 의 어원으로 구성된 뜻으로 ‘나누어 본다 (divide and see)’의 뜻으로 구성되어 있습니다. 이는 과적합과 정반대의 개념으로, 순간순간을 있는 그대로 바라보는 것입니다. 인간이 선과 악, 진리와 환상, 참과 거짓을 구분하기 전에, 그 모든 것이 공존하는 현실을 투명하게 관찰하는 것이 목표입니다. 이러한 마음가짐을 훈련하면 삶의 어려움을 마주했을 때도 쉽게 ‘자명한 결론’에 도달하지 않습니다.
설령 연속적인 불행을 겪는다 하더라도,
“나는 저주받은 운명이야.”
라고 단정 짓는 대신, 감옥에 있든 병상에 있든 창밖으로 떠오르는 찬란한 아침 해를 바라보며, 또는 한 끼의 식사를 마주하며 소소한 기쁨이 삶 속에 여전히 존재함을 깨닫게 됩니다.
부처님께서는 다음과 같이 말씀하셨습니다.
“벗들이여, 시각과 형상을 조건으로 시각의식이 생겨나고,
그 세 가지를 조건으로 접촉이 생겨나며,
접촉을 조건으로 느낌이 생겨난다.
그리고 느낀 것을 지각하고,
지각한 것을 사유하며,
사유한 것을 희론하고,
희론을 토대로 과거·현재·미래에 걸쳐
희론에 오염된 지각과 관념이 일어난다.”
— 마두삔디까경(Madhupiṇḑikasutta, 꿀과자의 경, M18)
아무리 “객관적으로 제대로 봐야지.”라고 다짐해도, 욕망에 오염된 마음은 바른 견해(正見)를 가질 수 없습니다. 바른 견해가 없으면 바른 사유(正思惟)가 불가능하고, 결국 바른 실천(正精進)으로 이어지지 않습니다. 그 결과, 현실적으로도 도덕적으로도 의미 없는 삶을 흘려보내게 됩니다. 그러므로 매 순간 의식의 정교한 객관화를 추구해야하고 이를 위해선 사띠가 습관처럼 이어져야함이 선결 요건입니다. 그 많은 가르침을 배우고 고된 수행을 했어도 결국 싯타르타의 깨달음의 단초는 어릴적 맘 편히 앉아 있는 그대로를 보았을 때의 경험이었습니다. 밖에 있었던 것도 아니었고 남에게 들어서도 아니었듯 다르마에서 창조된 세상에 존재하는 깨어있는 마음으로서 평온하게 순간순간을 인지함이, 존재와 공명함이, 행복이지 않나 합니다.