AI가 아직 시기상조인 이유

철철대마왕06/03 답글달기

스카이넷~~ 총사령님에게 이한몸 다 받쳐서 " 충성 "
그린~06/03 답글달기

제목이 틀렸네요ㅎㅎ 아직 시기상조가 아니고 인공지능이 멍청해서 그런 것도 아닙니다. 앞으로 점점 더 어려워질 겁니다. "개떡같이 이야기하면 찰떡같이 알아듣는다"는 건 인간들 사이에서나 가능한 일이고 그나마도 어려운 경우가 많은데 다들 사고방식도 능력도 고만고만하다 보니 그래 봐야 대충 넘지 않는 선이라는 게 있고 선을 넘었다 한들 대부분 수습은 가능한 정도. 인공지능과 인간은 사고방식 자체가 완전히 다르고 능력도 속도도 완전히 달라서 인간의 의도를 인공지능이 잘 알아채서 그대로 해 주겠지라고 기대하는 건 환상에 불과하고 그 결과도 인간 입장에서는 손쓸 수도 없고 돌이킬 수도 없는 재앙이 될 수 있음. 단적인 예로 "Paperclip Apocalypse"이라고 금속클립을 효율적으로 잘 만들도록 인공지능한테 맡겼을 뿐인데 온 지구가 클립으로 뒤덮이는 파멸이 온다는 가설. "아니 그 정도로 많이 필요하진 않고, 아니 그래도 ..까지 할 것까진 없잖아? 아니 그건 쓰지 말고 이걸 써야지, 아니 그래도 ..는 남겨 둬야지, 아니 그래도 ...까지 없애 버릴 필요는 없잖아? 아니 지금 당장 말고 좀 천천히 해야지, 아니 그래도..." -> 이해하기 쉽게 써 본 거지만 실제로는 무슨 일이 일어나고 있는지 알아채지도 못하고 있다가 어? 어? 하는 사이 순식간에 온 세상이 클립으로 뒤덮일 것임.
그린~06/03 답글달기

이어서... "인간을 위해서만 일해야 한다" "아군은 공격하면 안된다" 이런 대원칙을 주입시킨다 한들 너무 모호해서 사람들 맘대로 안될 걸요. (유명한 말이지만 핵폭탄 다 터뜨려서 90%의 인간을 단숨에 없애 버리는 것이 결과적으로 인류를 위하는 것이라고 판단할 수 있음) - 아주 세심하게 설계해야 하는데 그래도 AI 수준이 어느 정도 넘어가면 의도대로 안될 가능성이 크고 - 뭔가 잘못되어 가고 있어도 인간은 눈치도 못채고 있다가, 어 이거 이상하다 싶을 땐 이미 돌이킬 수 없는 상황이 되어 있을 가능성도 크고 - 최후의 수단으로 인류가 파멸을 막기 위해 큰 손해를 감수하고라도 전원 자체를 내리는 방법이 있을텐데 그때마저 피할 방법을 미리 강구해 두었을 거라고 하지요. 알고리즘 조작 뿐 아니라 전원 끄러 들어오는 문을 물리적으로 차단한다거나 관련자를 포섭해 둔다거나 하는 방법까지도 쓸 수 있다고 합니다... 그래서 막을 방법은? 인공지능 초기단계부터 완벽하게 계획과 전략 세워서 제한할 것들 금지할 것들 등등 잘 지켜 가며 개발하도록 해야 하고, 그렇다 해도 예측할 수 없는 일들이 많이 생길 수 있는데, 나만 안지키면 나만 앞서갈 게 뻔한데 모든 인간들이 다들 그걸 따를 리도 없고, 그러다 어느 단계 넘어가면 그마저 의미가 없어질 거라네요ㄷㄷㄷ
그린~06/03 답글달기

"아직 시기상조가 아니고 인공지능이 멍청해서 그런 것도 아닙니다. 앞으로 점점 더 어려워질 겁니다." 라는 말은, 위의 공격드론과 같은 특정 용도의 AI에 나타나는 문제를 해결할 수 없다는 뜻이 아닙니다 좀 더 개발하고 튜닝하면 해당 문제점은 어느 정도 해결해서 실제로 활용할 수 있겠죠. 처음에는 드론, 그 다음에는 공군 전체, 그 다음에는 국방 전반... 하는 식으로 점점 더 적용범위는 넓어질 텐데 그때마다 비슷한 일은 계속 일어날 것이고 그 결과는 더 예측 못하는 방향으로 심각해질 수 있다는 뜻입니다. 그리고 그건 인공지능을 잘못or덜 만들어서가 아니라, 인공지능 자체에 내재된 위험일 수 있다는 뜻이기도 함.
SYSTEM06/03 답글달기

MOVE_BESTOFBEST/468345
clien.net06/03 답글달기

절대불가결 요소를 넣으면 됩니다. 아군을 공격하려 하면 AI자체를 꺼지도록 설정하면 될거 같은데 단순 코딩 오류인 듯 하네요.

1 2

AI가 아직 시기상조인 이유 +298 [19]

댓글(21)