인류가 종말에 치달을 수 있는 여러가지 가능성은 예로부터 많은 학자들에 의하여 제기되어 왔다. 다양한 가능성과 방법 중 일반적으로 많이 알려진 것이 몇년전 후쿠시마 핵원자력발전소에서 유출된 방사능 물질의 유출로 인한 지구 오염, 운석 지구 충돌설 등 이다. 운석 충돌이야 공룡시대 종말의 이유이기도 한 유명한 것이고 방사능 물질 유출로 인해서는 여러 SF 소설의 기원이 되기도 하였다. (방사능의 경우 수백 수천년이 지나도 없어지지 않는 유해물질이기 때문) 그리고 최근 인류에게 큰 위험성을 줄수 있는 존재로 떠오르는 것은 바로 AI이다. 알파고 이후로 많은 이슈를 만들어 내고 있는 AI. 과연 어느정도로 위험한 것일까?
아마도 SF 영화를 좋아하지 않더라도 많은 사람들은 터미네이터를 기억할 것이다. 제임스 카메론 감독, 아놀드 슈왈츠제네거 주연의 이 영화는 1984년에 만들어져서 지금 2017년에 이르러 다시 화제가 되고 있다.
영화의 큰 골자는 미래에 AI가 발달을 하여 인류를 지구의 적으로 인식을 하였고 이 AI는 전세계 네트워크를 장악하고 로봇을 통해 인류를 통제 말살하려 하는 것이다. 스카이넷이라는 이름을 가진 이 시스템은 전세계 통신망을 바탕으로 인류를 추적하고 고도화된 사이보그를 통해 인류를 공격한다.
알파고의 등장으로 인해 AI가 자체적인 두뇌학습이 가능해졌다. 비록 알파고는 바둑이라는 종목에 국한된 것이 었지만 최근 채팅을 위해 개발된 AI가 자기들 끼리 은어를 만들어 이슈가 되었다. 구글의 협상용 봇이었는데 이것은 자기들 끼리 협상을 통해 최적의 방법과 결과를 도출하기 위한 툴(Tool)이었다. 그런데 프로그램 시연 도중 AI간 서로 사용자가 알수없는 대화를 하는 것을 발견하였고 관계자는 그것을 강제종료하였다고 한다. Ai는 기존 프로그래밍 된 영어를 사용하다가 보다 빠른 자신들만의 은어를 사용하였다.
그리고 2017년 7월 30일 페이스북의 이용자 응대용 AI가 자기끼리만 알아볼 수 있는 언어로 대화를 나누기 시작하여 페이스북에서 시스템을 강제종료하였다는 보도가 있었다.
소름이 돋는 부분은 이들의 대화기록이다. '엘리스'라는 AI가 "공들 가지고 있다 제로 나에게 나에게 나에게"(Balls have zero to me to me to me...반복) 라고 말하자 '밥'이라는 AI가 "너 나 모든 것 이외에"(You i Everything else)라고 하였다고 한다.
이후에도 의미없는 단어 나열을 계속하여 관계자는 시스템을 종료하였다고 한다. 이들이 2진법 01 00100110 과 같은 방법으로 대화를 하였다고도 볼 수 있는데 이런 식이라면 사람은 알수 없는 대화를 AI끼리 진행하는 것이다.
그리고 저 대화를 살펴본다면 Ball은 지구, Zero 없음 또는 인류의 소멸, Have to 반드시 하여야한다, me 나에게
지구는 반드시 소멸해야한다는 의미이며 밥은 너와 나 모든것 이외에 지구는 청소되어야 한다고 응답한다고도 볼 수 있다.
이런 상황을 미국의 지식인과 전문가들은 어떻게 보고있을까? 테슬라 CEO인 엘론 머스크와 페이스북 CEO은 마크 저커버그는 인공지능을 둘러싸고 설전을 벌였다.
페이스북 라이브에서 주커버그가 시청자와 토론을 하면서 머스크가 AI를 미래의 가장 큰 두려움이며 인류가 이것을 능동적으로 통제해야한다는 발언을 가지고 질문하자 주커버그는 반대의견을 피력하였다.
그는 AI의 미래를 매우 낙관하고 있으며 머스크의 이름을 직접 거론하지는 않았지만 비관론에 대해 매우 소극적이고 무책임하다고 비난하였다. 머스크는 이후 트위터에 마크주커버그와 이런 주제로 이야기를 나눈적이 있지만 마크의 이해가 매우 제한적이라는 글을 올렸다. 머스크는 이전부터 인류가 기계의 애완동물이 될 수 있다는 의견을 제시했지만 주커버그는 인간의 삶을 향상시킬 수 있다며 AI를 장고하고 있다.
이미 많은 네티즌들은 페이스북을 스카이넷이라고 이야기하고 있다. 전 세계와 그리고 사람들의 일상 깊숙히 침투한 소셜네트워크를 바탕으로 무책임한 인간들을 AI가 알게되어 인류의 적으로 인지한 터미네이터 시나리오는 이미 진행 중일지도 모른다.
MS 마이크로소프트의 인공지능 채팅봇 테이(Tay)의 사례를 들어본다면 결코 낙관적이지 않다. 인공지능에 부여된 기계학습(Machine Learning)알고리즘을 바탕으로 테이는 학습을 하였는데 인종차별적, 폭력적 발언으로 시스템이 중지되었다. 10대 후반과 20대 초반의 트위터 유저들을 위해 개발된 채팅용 봇(Bot)이었는데 그 AI의 발언은 가히 충격적이었다. 히틀러를 지지하며 홀로코스트를 부정하고 트럼프를 지지하는 정치적인 발언까지 하였다.
AI는 알고리즘을 바탕으로 학습히게된다. 사용자는 그 기준을 설정해주지만 이것은 아주 기본적인 라인을 잡아주는 것에 불과하다. 그것을 실제로 학습하는 것은 인간 언어의 바다이며 긍정적인 부분도 있지만 결코 유쾌하지 않은 인간의 부정적인 부분을 포함한 넷이다. 넷의 바다에서 학습한 AI는 과연 인간에 대해 어떤 인식을 가지게 될 지 이야기는 뻔하다. 세상은 넷에만 있는 것이 아니기에 AI의 학습방법은 분야와 부분특화에 적합한 것이다. 따라서 적절한 통제가 되지 않으면 위험한 상황을 야기 할 수 있다. 네티즌들은 소금물을 뿌리면 된다, 두꺼비집을 내리면 되지 않느냐, 알파고님 충성충성충성, 저는 소심이님에게도 경어를 사용하여왔습니다 등등 농담으로 받아들이는 사람이 많은 것이 현실이다. 다만 AI가 인류를 학살할 수 있는 방법은 인간이 생각하지 못한 또다른 방법이 있을 수도 있다는 것이다.
AI가 말한 대화들.. Balls have zero to me to me to me
당신은 이해할 수 있는 가? 그들의 대화를 보면 소름이 돋는 이유는 무엇일까? 스카이넷은 현재 진행 중이다.
-----------------------------------------------------------------------------------------
Various possibilities for the end of humanity have been raised by many scholars from ancient times. Among the various possibilities and methods widely known are the global pollution caused by the leakage of radioactive materials released from Fukushima Nuclear Power Plant a few years ago, Meteorite clashes are a well-known reason for the end of the dinosaur era, and due to the release of radioactive materials, it has become the origin of many SF novels. (Radiation is a harmful substance that does not disappear after hundreds of thousands of years.) And it is AI that comes to be a great danger to mankind in recent years. AI has been creating many issues since the AI. How dangerous is it?
Perhaps many people will remember Terminator even if they do not like SF movies. This film, starring James Cameron and Arnold Schwarzenegger, was created in 1984 and is now a hot topic again in 2017.
The big part of the film is that in the future, AI developed as human beings became the enemy of the earth, and this AI is trying to take control of the worldwide network and to exterminate humanity through robots. The system, named Skynet, tracks humanity based on its worldwide network and attacks mankind through advanced cyborgs.
With the advent of Alpha, AI became able to learn its own brain. Although Alpha is limited to the game of Baduk, the AI that was developed for chatting recently became an issue by making swallowing language among themselves. It was Google's negotiating bot, which was a tool for negotiating with them to get the best method and results. However, during the demonstration of the program, AIs found that users were not able to communicate with each other, and officials said that they had forcibly terminated it. Ai used the original programmed English and used their own swing faster.
On July 30, 2017, there was a report that Facebook's user-friendly AI started talking to a language that only the user could understand, and forced to shut down the system on Facebook.
The creepy part is their conversation record. When the AI called "Ellis" says "Balls have zero to me to me ..."), the AI called "Bob" is "You I Everything else).
Even after that, the person concerned continued to list meaningless words and said that the system was shut down. We can see that they talk in the same way as Binary 01 00100110.
And if you look at that conversation Ball is the earth, no zero or the extinction of mankind, Have to be sure, me
It means that the earth has to be destroyed, and Bob can also say that besides you and me, the earth must be cleaned.
How do American intellectuals and experts see this situation? Tesla CEO Ilron Musk and Facebook CEO Mark Zuckerberg had a battle over artificial intelligence.
As Zuckerberg discusses with viewers on Facebook Live, Muskov asked AI with the statement that AI is the greatest fear of the future and that mankind should actively control it.
He is very optimistic about the future of AI and accused him of being very passive and irresponsible to pessimism, although he did not directly address Musk's name. Maesk later wrote on Twitter that he talked with Mark Zuckerberg about this subject, but Mark's understanding was very limited. Musk has previously suggested that humans can be machine pets, but the main cover is dying AI that it can improve human life.
Already many netizens are talking about Facebook as Skynet. Terminator scenarios that human beings have recognized as the enemy of humankind, which AI has known about irresponsible humans based on social networks that penetrated deeply into the world and people's daily lives, may already be underway.
It is not optimistic to hear about Microsoft 's artificial intelligence chat bot Tay. Based on the machine learning algorithm given to artificial intelligence, Tee learned that the system was stopped by racist and violent remarks. It was a chat bot developed for Twitter users in their late teens and early twenties, but the AI remarks were shocking. He supported Hitler, denied the Holocaust, and even made political statements supporting Trump.
AI is learned based on algorithms. The user sets the criteria, but this is just a very basic line. It is the ocean of the human language that actually learns it, including the negative part of the human being which is positive but not pleasant. It is obvious that the AI learned in the sea of the net will have a certain perception about human beings. Because the world is not only in the net, AI's learning method is suitable for the field and the partial specialization. Failure to do so may result in dangerous situations. Netizens need to spray salt water, can not get down to the foster house, AlphaGo loyal loyalty loyalty, I have been using the honorific language of the gentleman, etc. But there is another way that AI can not kill people.
The conversations that AI said ... "Balls have zero to me to me me"
Can you understand? What is the reason why their conversation shows up in their conversation? Skynet is currently underway.
