In March 2016, Google’s artificial intelligence Go program, AlphaGo, caused quite a sensation in Korea. AlphaGo easily defeated the world’s top Go player, Lee Sedol 9-dan, with a score of 4 wins to 1 loss. Some people were shocked that the game of Go, which had been considered a domain of humans, had been taken over by a machine, while others trembled in fear, likening it to a scene from a sci-fi movie where machines dominate the world. Shock and fear. These were the reactions most people, including experts, showed towards AlphaGo, the program that defeated Lee Sedol. However, just because AlphaGo plays Go well enough to beat Lee Sedol doesn’t mean the world suddenly changes or is doomed.

Although Go is vastly more complex than chess, someday computers will be better at games than humans, and that day has come a little sooner than expected. Chess is much simpler than Go, making it impossible for humans to beat computers. Computers calculate the best moves by considering all possible outcomes in a chess game. While Go is much more complex than chess, if computer processing speeds increase and algorithms become more efficient, computers can gain a significant advantage over humans in various fields. AlphaGo demonstrated this advantage in its match against Lee Sedol, so it’s not surprising that it beat him.

AlphaGo is a general artificial intelligence program that can learn on its own based on several algorithms and big data analysis. In the future, it could be applied not only to Go but also to fields like finance and healthcare. It’s true that AlphaGo represents a significant advancement over existing AI programs. Due to its tremendous computational and analytical capabilities, it can achieve better results than humans in some areas. However, it’s ultimately an algorithm created by humans, operating within the framework humans have set.

In other words, no matter how advanced AlphaGo becomes, it cannot possess the “free will” to think, judge, decide, and act on its own. It produces such results because humans developed it to do so. Even if AlphaGo plays Go exceptionally well, it doesn’t understand what Go is. While it can identify advantageous moves through extensive data analysis and computation, it doesn’t comprehend the essence of Go or its significance in life.

Sometimes, people overestimate themselves. No matter how much science advances, there are two things it cannot do: find God with any scientific tool and create life with any technological means. Even if people develop excellent robots or AI programs, they cannot possess consciousness, free will, or a soul like humans do. If the era of AI domination arrives, it’s not because AI autonomously took over the world but because humans directed it to do so.

When new technology emerges, people typically exhibit two responses: optimism that it can solve many of the world’s problems and pessimism that it will create additional problems, making people unhappy. Both of these reactions stem from technological determinism. Dealing with AI like AlphaGo is no different. Vague hopes that AI can create a better world or baseless fears that it will dominate the world are not the essence. Instead of a technology-centered mindset, it’s more important to examine the motivations of those developing the technology and the intentions of those using it.

If people can control their desires and reduce the size of their ambitions, AI will become a great technology that helps people live better lives. Otherwise, AI will degenerate into a tool that maximizes human desires. Ultimately, the problem lies not with AI but with humans, and what we should fear is not AI but the human mind.

지난 3월, 구글의 인공지능 바둑 프로그램 알파고(AlphaGo)가 이 나라에 한바탕 광풍을 일으켰다. 알파고는 세계 바둑 최고수인 이세돌 9단과의 대결에서 4승 1패로 가볍게 승리했다. 어떤 사람들은 그동안 인간의 영역으로 여겨졌던 바둑이 기계에 의해 점령당했다며 충격에 빠졌고, 또 다른 사람들은 이제 공상과학 영화처럼 기계가 세상을 지배하는 것이 아니냐며 두려움에 떨었다. 충격과 공포. 이세돌을 이긴 알파고에 대해 전문가를 비롯한 대부분 사람들이 보인 반응이다. 하지만 알파고가 이세돌을 이길 만큼 바둑을 잘 둔다고 해서 갑자기 세상이 바뀌거나 망하지 않는다.

바둑은 체스에 비해 어마어마하게 복잡한 게임이지만, 언젠가는 컴퓨터가 인간보다 잘할 수 있는 게임이고, 그날이 생각보다 조금 빨리 온 것뿐이다. 체스는 바둑보다 훨씬 단순하여 인간이 컴퓨터를 이길 수 없다. 컴퓨터는 체스 게임에서 모든 경우의 수를 다 고려하여 최적의 수를 계산한다. 바둑이 체스보다 훨씬 복잡하지만, 컴퓨터의 연산 속도가 빨라지고 알고리즘이 더욱 효율적으로 발전한다면, 컴퓨터가 인간과의 대결에서 충분히 우위를 보일 수 있다. 알파고가 이세돌과의 대결에서 그 우위를 보여준 것이고, 따라서 알파고가 이세돌을 이겼다고 해서 그렇게 놀랄 일은 아니다.

알파고는 몇 가지 알고리즘과 빅데이터 분석을 바탕으로 스스로 학습할 수 있는 범용 인공지능 프로그램이다. 앞으로 바둑뿐 아니라 금융이나 의료 분야에도 적용할 수 있을 것이다. 알파고가 기존의 인공지능 프로그램보다 매우 발전된 것은 사실이다. 엄청난 연산 능력과 분석 능력 때문에 어떤 분야에서는 인간보다 더 훌륭한 성과를 낼 수 있지만, 결국은 인간이 만든 알고리즘이고 인간이 만든 컴퓨터 프로그램이다.

다시 얘기하면, 아무리 알파고가 발전한다 하더라도 스스로 사고하고 판단하고 결정하고 행동할 수 있는 “자유 의지”를 가질 수 없다는 말이다. 사람들이 그렇게 하도록 개발했기 때문에 그런 결과를 낼 뿐이다. 알파고가 아무리 바둑을 잘 둔다 해도 알파고는 바둑이 무엇인지 모른다. 엄청난 양의 데이터 분석과 연산을 통해 이길 확률이 높은 착점을 찾아낼 수 있지만, 그것이 바둑인지 뭔지 알 수 없다. 왜 그것을 해야 하는지, 그것이 인생의 어떤 의미가 있는지 알지 못한다.

사람들은 때때로 스스로를 너무 과대평가한다. 과학이 아무리 발전한다 해도 할 수 없는 것 두 가지가 있는데, 하나는 어떤 과학 도구로도 신(神)을 찾을 수 없고, 다른 하나는 어떤 과학 기술로도 생명을 만들 수 없다. 사람들이 아무리 훌륭한 로봇이나 인공지능 프로그램을 개발한다 하더라도 그것들이 사람과 같은 의식이나 자유의지, 그리고 영혼을 가질 수 없다. 만약 인공지능이 세상을 지배하는 시대가 온다면, 그것은 인공지능 스스로 세상을 지배한 것이 아니고 사람들이 인공지능을 그렇게 하도록 시켰기 때문이다.

새로운 기술이 등장하게 되면 사람들은 대개 두 가지 반응을 보인다. 새로운 기술이 세상의 많은 문제를 해결해 줄 수 있다는 낙관주의와 새로운 기술이 또 다른 문제를 발생시켜 사람들을 불행하게 만들 거라는 비관주의가 그것이다. 이 두 가지 반응은 모두 기술결정론에 뿌리를 두고 있다. 알파고와 같은 인공지능을 대할 때도 마찬가지다. 인공지능이 더 나은 세상을 만들 수 있을 거라는 막연한 희망이나, 인공지능이 세상을 지배할 거라는 근거 없는 두려움은 본질이 아니다. 기술 중심의 사고에서 벗어나서, 그 기술을 개발하는 사람들의 동기가 무엇인지, 또는 그 기술을 이용하는 사람들의 의도가 무엇인지를 살펴보는 것이 더 중요하다.

사람들이 자신의 마음을 통제하고 욕심의 크기를 줄일 수 있다면, 인공지능은 사람들의 삶에 도움이 되는 훌륭한 기술이 될 것이다. 그렇지 않을 경우, 인공지능은 사람들의 욕망을 극대화하는 도구로 전락할 것이다. 결국, 문제는 인공지능이 아니라 사람이고, 두려워해야 할 것은 사람의 마음이다. <Frontier, 2016년 여름>