Browsed by
Tag: 알파고

기계가 사람처럼 생각할 수 있을까

기계가 사람처럼 생각할 수 있을까

바둑이라는 게임에서 인간이 공식적으로 기계를 이길 수 없음이 증명되자, 사람들은 기계가 인간을 지배할 수도 있지 않을까 걱정하기 시작한다.

데카르트는 이미 380년 전에 그의 책 <방법서설(Discourse on the Method)>에서 기계가 사람처럼 이성을 가질 수 없다고 주장했는데, 그 이유는 다음과 같다.

여기서 나는 다음과 같은 것을 분명히 하려고 했다. 즉 원숭이나 이성이 없는 다른 동물들과 똑같은 기관과 모양을 가진 기계가 있다면, 이 기계가 저 동물과 동일한 본성을 갖지 않았음을 알 수 있는 어떠한 수단도 우리에게 없다는 것이다. 반면에 우리 신체와 비슷하고, 우리 행동을 가능한 한 흉내낼 수 있는 기계가 있다고 하더라도, 그것이 진정한 인간일수 없다는 것을 알 수 있는 아주 확실한 두 가지 수단을 갖고 있다는 것이다. 첫째, 그 기계는 우리가 다른 사람에게 우리 생각을 알게 할 때처럼, 말을 사용하거나 다른 기호를 조립하여 사용하는 일이 결코 없다는 것이다. 물론 기계가 말을 할 수 있도록, 나아가 그 기관에 어떤 변화를 일으키는 물질적 작용에 따라 어떤 말을 할 수 있도록 만들어질 수 있다. 가령 어디를 만지면 무슨 일이 일이냐고 묻는다든가, 혹은 다른 곳을 만지면 아픈 소리를 지른다든가 하는 것 등이다. 그러나 그 기계는 자기 앞에서 말해지는 모든 의미에 대해 대답할 정도로 말들을 다양하게 정돈할 수 없지만, 아무리 우둔한 사람이라도 그런 것을 할 수 있다. 둘째는, 그 기계가 우리 못지 않게 혹은 종종 더 잘 많은 일을 처리한다고 하더라도, 역시 무언가 다른 일에 있어서는 하지 못하는 일이 있으며, 이로부터 그 기계는 인식이나 이해가 아니라 기관의 배치에 의해서만 움직인다는 것이 드러난다. 왜냐하면 이성은 모든 상황에 적절히 대처할 수 있는 보편적인 도구인 반면에, 이 기계가 개별적인 행동을 하기 위해서는 이에 필요한 개별적인 배치가 기관 속에서 이루어져야 하지만, 우리 이성이 우리에게 행동하게 하는 것과 같은 방식으로 삶의 모든 상황에서 행동하기에 충분한 다양한 배치가 한 기계 속에 있다는 것은 사실 불가능한 일이기 때문이다.

I worked especially hard to show that if any such machines had the organs and outward shape of a monkey or of some other animal that doesn’t have reason, we couldn’t tell that they didn’t possess entirely the same nature as these animals; whereas if any such machines bore a resemblance to our bodies and imitated as many of our actions as was practically possible, we would still have two very sure signs that they were nevertheless not real men. (1) The first is that they could never use words or other constructed signs, as we do to declare our thoughts to others. We can easily conceive of a machine so constructed that it utters words, and even utters words that correspond to bodily actions that will cause a change in its organs (touch it in one spot and it asks ‘What do you mean?’, touch it in another and it cries out ‘That hurts!’, and so on); but not that such a machine should produce different sequences of words so as to give an appropriately meaningful answer to whatever is said in its presence—which is something that the dullest of men can do. (2) Secondly, even though such machines might do some things as well as we do them, or perhaps even better, they would be bound to fail in others; and that would show us that they weren’t acting through understanding but only from the disposition of their organs. For whereas reason is a universal instrument that can be used in all kinds of situations, these organs need some particular disposition for each particular action; hence it is practically impossible for a machine to have enough different organs to make it act in all the contingencies of life in the way our reason makes us act.

요즘 기계들은 사람처럼 말을 하고 사람의 말을 알아 듣는(것처럼 보인)다. 그렇지만 그것들이 사람처럼 행동한다 해도 그것은 그렇게 하도록 설계되었기 때문이지, 그것들이 의미를 이해하고 하는 것은 아니다.

알파고가 이세돌이나 커제를 이길 수 있는 것은 그렇게 하도록 프로그램되었기 때문이다. 알파고는 바둑이라는 놀이가 역사적으로나 철학적으로 어떤 의미가 있는지 알지 못하고 알 수도 없다.

인간의 특정 부분을 흉내낼 수 있는 기계를 만들 수는 있지만, 인간과 같은 기계를 만들 수는 없다. 현재까지의 결론은 진정한 의미의 튜링 기계(인공지능)는 만들 수 없다는 것이다.

알파고보다 더 무서운 것

알파고보다 더 무서운 것

구글의 인공지능 바둑 프로그램 알파고(AlphaGo)가 이 나라에 한바탕 광풍을 일으키고 있다. 알파고는 세계 바둑 최강자 중 한 사람인 이세돌 9단과의 대결에서 4승 1패로 낙승을 거두었다. 어떤 사람들은 그동안 인간의 영역으로 여겨졌던 바둑의 세계가 기계에 의해 점령당했다며 충격에 빠졌고, 또 다른 사람들은 이제 공상과학 영화처럼 기계가 세상을 지배하는 것이 아니냐며 두려움에 떨었다. 충격과 공포. 이세돌을 이긴 알파고에 대해 전문가를 비롯한 대부분 사람들이 보인 반응이다. 워낙 냄비근성과 호들갑에 익숙한 나라의 언론과 백성들이라 이해 못할 바는 아니지만, 알파고가 이세돌을 이길 만큼 바둑을 잘 둔다고 해서 갑자기 세상이 바뀌거나 망하지는 않는다. 흥분을 가라앉히고 차분해질 필요가 있다. 우선 바둑은 서양장기 체스에 비해 어마어마하게 복잡한 게임이지만, 언젠가는 컴퓨터가 인간보다 잘 할 수 있는 게임이고, 그 날이 우리 생각보다 조금 빨리 온 것 뿐이다. 체스는 바둑보다 훨씬 단순하여 인간이 컴퓨터를 이길 여지가 없다. 컴퓨터는 체스 게임에서 모든 경우의 수를 다 고려하여 최적의 수를  계산한다. 바둑이 체스보다 훨씬 복잡하지만, 컴퓨터의 연산 속도가 빨라지고 알고리즘이 더욱 효율적으로 발전한다면 컴퓨터가 인간과의 대결에서 충분히 우위를 보일 수 있다. 알파고가 이세돌과의 대결에서 그것을 보여준 것이다. 때문에 알파고가 이세돌을 이겼다고 해서 그렇게 놀랄 일은 아니다. 알파고는 몇 가지 알고리즘과 빅데이터 분석을 바탕으로 스스로 학습할 수 있는 범용 인공지능 프로그램이다. 앞으로 바둑뿐만 아니라 금융이나 의료 분야에도 적용할 수 있을 것이다. 알파고가 기존의 인공지능 프로그램보다 매우 발전된 것은 사실이고, 엄청난 연산 능력과 분석 능력 때문에 어떤 분야에서는 인간보다 더 훌륭한 성과를 낼 수 있지만, 결국은 인간이 만든 알고리즘이고 인간이 만든 컴퓨터 프로그램이다. 다시 말하면, 아무리 알파고가 발전해도 스스로 사고하고 판단하고 결정하고 행동할 수 있는 “자유 의지”를 갖을 수 없다는 말이다. 인간들이 그렇게 하도록 개발했기 때문에 그런 결과를 낼 뿐이다. 알파고가 아무리 바둑을 잘 둔다 해도 알파고는 바둑이 뭔지 모른다. 엄청난 양의 데이터 분석과 연산을 통해 이길 확률이 높은 착점을 찾아낼 수 있지만, 그것이 바둑인지 뭔지는 알 수 없다. 왜 그것을 해야 하는지, 그것이 어떤 의미가 있는지 알지 못한다. 인간들은 때때로 스스로를 너무 과대 평가한다. 인간의 과학이 아무리 발전한다 해도 할 수 없는 것 두 가지가 있는데, 하나는 어떤 과학 도구로도 신(神)을 찾을 수 없고, 다른 하나는 어떤 과학 기술로도 생명을 만들 수 없다. 따라서 인간이 아무리 훌륭한 로봇이나 인공지능 프로그램을 개발한다 하더라도 그것들이 인간과 같은 의식을 갖을 수 없으며 결국 그것들에게 자유의지를 부여할 수 없다. 만약 인공지능이 세상을 지배하는 시대가 온다면 그것은 인공지능 스스로 세상을 지배한 것이 아니고 인간들이 인공지능을 그렇게 하도록 시켰기 때문이다. 결국 두려워 해야할 것은 인공지능 알파고가 아니라 인공지능을 개발하고 그것을 사용하는 사람들이다. 세상에서 가장 무서운 것은 인공지능도 아니고, 귀신도 아니고, 바로 인간들이다. 그것도 아주 탐욕스러운 인간들이다.