무조건 오래 살아야 하는 이유 ... JPG +9

인류의 미래가 너무나도 기대되기 때문임...










2024년 10월 9일~10일자 최신 AI 뉴스

맥스 테그마크 인터뷰 (MIT 물리학 교수)

맥스 테그마크 - 제가 참여한 모 컨퍼런스에서 어떤 억만장자가 30억 대의 로봇을 만들겠다고 이야기했습니다.

인간보다 모든 일을 더 잘할 수 있는 만능 로봇을요. 일론 머스크는 아닙니다. 채텀 하우스룰(*안에서 자유롭게 대화하고 밖에서 화자를 특정하지말자는 룰) 때문에 누군지는 말씀드릴 수 없습니다. 문제는 그 30억 대의 로봇을 만들겠다는 그 사람을 지금 규제로 어떻게 막을 수 있습니까? 

사회자 - 그 사람이 미국인인가요?

맥스 - 네. 미국인입니다

사회자 - 미국에서 가장 부유한 사람 중 한 사람인가요

맥스 - 네

사회자 - 일론 머스크가 아니면.. 제프 베이조스?

맥스 - 그럴수도 있죠

사회자 - 마크 저커버그인가요?

맥스 - 특정 개인의 문제가 아니에요. 

사회자 - 오라클 창립자도 있고, 버핏은 아닌거 같고. 래리 페이지, 세르게이 브린도 있네요. 제 기억에 래리 페이지는 AI 신을 원한다고 말했었어요. 또 AI 신을 반대하는 자들을 인간 종만을 생각하는 스페시스트(speciest, *번역을 뭐라고 할지 고민했는데 그냥 스페시스트라고 하겠습니다. 종차별주의자는 좀 적절하지 않아 보입니다. 인간 종만을 생각하는 사람들을 말합니다.)

맥스 - 제가 그 발언을 직접 목격한 사람입니다. 그 자리에 같이 있었어요. 제가 책에 썼기 때문에 유명해진 것이고 그는 실제로 그렇게 말했습니다.

- 미래에 대해 생각할 때 제가 드릴 말씀이 많습니다.

- 10년 후를 생각하지 마세요. 2년 후를 생각하십쇼. 미친 일들이 벌어질 겁니다. 9년 후를 계획하면 다 물거품이 될 겁니다. 유연하게 움직이세요. 지금 바로 할 수 있는 것, 향후 12개월 동안 도움이 될 만한 일을 하십시오. 

- 미래에 살아남고 번영하려면 유연해야 합니다. 과거처럼 20년간 공부하고 어떤 경력을 쌓고, 그 일을 하는 40년 동안 하는 시대는 끝났습니다. 끊임없이 새로운 것을 배우고 필요할 때마다 방향을 바꿔야합니다.

- 지금 당장 AI에 영향을 받지 않는 것처럼 보이는 직종이라 할지라도 AI의 영향이 어떻게 올지를 반드시 파악해두십시오. 당장은 AI에 의해 대체되는 것이 아니라, 그 AI를 사용하는 사람들에게 당신들은 대체될 겁니다. AI를 부정하다가 대체되거나, AI를 수용하고 더 생산적이게 되거나 입니다. 

에릭 슈미트 인터뷰 (전 구글 CEO)

에릭 슈미트 - 지금은 엄청난 규모의 경쟁이 벌어지고 있습니다. 빅3는 앤트로픽 - 아마존 / 제미나이 - 구글 / OpenAI - 마이크로소프트 입니다. 샌프란시스코 학파는 2~3번의 스케일링(한번의 스케일링 당 18개월)이면 AGI에 도달한다고 확신하고 있습니다. 여기서 AGI란 인간 지능의 총합보다도 똑똑해지는 순간을 말합니다. 개인적으로는 그럴 가능성이 있긴 하지만 3년 안에 이뤄질지는 모르겠습니다.

- 중국에 대해선, 워싱턴은 중국에 대해 신경을 많이 쓰는 것 같지만 실제론 많이 뒤쳐졌습니다. 불과 5년 전만해도 모두들 AI는 데이터가 전부라는 식으로 말했었죠. '중국은 데이터가 많아서 유리할 것이다. 개인정보 보호 규정도 없고' 라고 말입니다. 사실이 아닙니다. AI는 데이터의 양보다 얼마나 많은 엘리트 이과(STEM) 인력을 투입할 수 있는지에 달려있습니다. 물리학자, 생물학자, 수학자가 필요합니다. 이 분야는 매우 어렵습니다. 컴퓨터 과학자인 제가 말씀드리기에도 AI 알고리즘의 일부는 너무 어려워서 수학자들의 도움이 필요합니다. 그정도로 고급화된 상태입니다. 

- 문제는 다듬어야할 규제들이 너무 많다는 점입니다. 행정부가 AI를 위한 전력을 확충하기 위해선 송전선을 요청하고 승인, 허가 받기 까지 지금은 무려 18년이나 걸립니다. 한번의 스케일링당 18년 걸리면 전 아마 못보고 죽겠죠. 정부가 빠르게 변해야합니다.

진행자 - OpenAI가 전세계에 데이터센터를 구축하고 있다고 들었습니다. 미국의 안보를 위협하진 않을까요

에릭 슈미트 - 아랍지역은 최소한 유럽의 유일한 AI 훈련 센터가 될 것입니다. 현재 유럽의 에너지 가격은 너무 높아서 마크롱이 프랑스전력공사에 특별계약을 요구해서 성사된다 하더라도 그 비용이 미국이나 중동지역의 비용보다 훨씬 더 비쌉니다. 따라서 거의 모든 유럽 모델들은 미국, 중동 지역에서 훈련되고 있습니다. 그게 나쁜 일은 아닙니다.

진행자 - 중국은 어떻습니까

에릭 슈미트 - 중국은 현재 60~70만개의 GPU로 된 클러스터를 갖추고 있을 겁니다. 그 이상이거나요. 마이크로소프트에도 몇 개, 구글에도 몇 개의 대형 클러스터가 있을 것이고 메타에도 분명히 하나 이상 있을 겁니다. 앤트로픽도 하나 정도는 있을 것이고 WeChat의 텐센트가 말레이시아에 하나 있습니다. 이 클러스터들이 어디에 구축되고 있는지를 보면 실제로 어디에 힘이 모이고 있는지 알 수 있습니다. 

진행자 - 미국의 국가안보관점에서 보면 어떤 나라가 안전합니까

에릭 슈미트 - 상위 5개국은 파이브 아이즈입니다. 그다음은 프랑스, 독일, 일본, 한국같은 우리가 신뢰할 수 있는 나라들이구요. 그 뒤는 신뢰도는 다소 떨어지지만 호감이 가는 인도가 있겠네요. 중동 국가들도 인도와 같은 수준입니다. 안보를 최우선시 하면 파이브 아이즈 국가들에서 안전한 훈련 작업을 마치고, 그 나머지 작업들은 뭐 어디서 해도 상관없게 하면 됩니다. 

진행자 - 원전에 대해서는 어떻게 생각하십니까

에릭 슈미트 - 독일의 원전폐쇄는 역사적으로 잘못된 결정으로 기록될 겁니다. 올해 원전으로 사망한 사람은 거의 없습니다. 하지만 석탄으로 인한 사망자는 약 50만에 이를 겁니다. 

질문자(국무부 펠로우) - 중동에서 훈련이 진행될 것이라고 말씀하셨는데 그럼 추론용 데이터센터는 유럽에 둘까요? 도시 한복판에 두게 되나요?

에릭 슈미트 - 전 광섬유를 좋아합니다. 중동에 둔다고 해서 유럽에 지연이 클거라 생각하진 않아요. 또 업계에선 앞으로 데이터센터가 여전히 훈련위주가 될 것이다, 아니다 추론이 대부분을 차지하게 될 것이다 논쟁이 있습니다. 우린 이 논쟁에 대한 답을 모릅니다. 제 가정은 훈련과 추론이 같은 장소에서 일어날 것이다 입니다. 하드웨어는 매우 비싸기 때문에 중앙집중화 시켜두는 것이 낫습니다. 또 알고리즘의 작동방식을 고려하면 메모리 유닛들이 트레이닝 파트와 물리적으로 매우 가까워야합니다.

질문자 - AI의 에너지 수요가 기후위기를 더 심각하게 만들진 않을까요

에릭 슈미트 - AI 수요는 분명 문제가 되겠죠. 그렇지만 그 AI가 문제를 해결할 것이라는데에 전 베팅하고 싶습니다. 

제프리 힌튼 인터뷰 (AI 대부, 튜링상과 이번에 노벨 물리학 수상자)

힌튼 - 캘리포니아에서 새벽 1시에 전화가 왔는데 받을까 말까 고민하다 받았습니다. 전혀 기대하지 못한 물리학상이라 깜짝 놀랐습니다.

- 많은 멘토분들, 절 가르쳐주신 교수분들께 감사말씀드리며 제 학생들도 언급하고 싶습니다. 저는 특히 저보다 똑똑한 학생들을 가르칠 수 있었던 점이 운이 좋았습니다. 그들은 실제로 많은 것들을 성취했고 지금도 훌륭한 일들을 하고 있습니다. 특히 제 학생 중 한 명이 샘 알트만을 해고한 것에 대해 자랑스럽게 생각합니다. 질문받겠습니다.

진행자 - AI 발전을 늦춰야한다고 말씀하셨던 것으로 아는데 이번에 노벨상을 받고 어떻게 움직이실 건지 궁금합니다

힌튼 - 저는 AI 발전을 늦춰야한다고 권고한 적이 없습니다. 애초에 가능하지 않기 때문이에요. AI를 안전하게 만들 수 있는데에 공헌할 수 있다면 더 큰 노력을 할 생각입니다.

진행자 - AP통신의 맷 라이언 기자가 질문을 보냈습니다. 아까 샘 알트만 이야기 좀 더 해주시라고요.

힌튼 - 오픈AI는 안전성을 위해 설립되었습니다. AGI를 개발하고 안전하게 만드는 것이 목표였죠. 제 학생 일리야 수츠케버가 수석과학자였고 시간이 지나면서 샘 알트만이 안전성보다는 수익에 더 관심을 두는 것처럼 보입니다. 저는 그것을 안타깝게 생각합니다.

진행자 - 요미우리 신문 코바야시 야스히로 기자의 질문입니다. AI가 인간을 초월하는 시점이 언제가 될까요?

힌튼 - 언제일지는 아무도 모릅니다. 하지만 제가 아는 훌륭한 과학자들 대부분은 그 일이 일어날 것이라고 예측하고 있어요. 제 추측으로는 5년에서 20년입니다. 더 오래 걸릴 수도, 조금 더 빨리 일어날 수도 있습니다. 그리고 그때, 무슨 일이 일어날 지 모릅니다. 주변을 살펴보면 더 똑똑한 것이 덜 지능적인 것에 통제되는 경우는 거의 없습니다. AI가 우리보다 똑똑해지면 통제권을 누가 가질까요. 

알파고의 아버지이자 알파폴드 개발로
이번에 노벨 화학상을 수상한 구글 딥마인드 CEO 데미스 하사비스
"구글은 2030년까지 AGI 완성을 목표로 하고 있다"


AGI = 일반 인공 지능,
모든 분야에서 인공지능이 인간 전문가 레벨을 대체 


















오픈 AI의 공동창업자 이자 최고 전력중 한명, 보치엑 자렘바 인터뷰 (2024.10.10)

 

진행자 - 레벨 5는요?

보치엑 자렘바 - 레벨 5는 AI가 이제 충분히 능숙해져 전체 조직을 운영할 수 있는 레벨이 되는 것입니다. 예를 들어 천 명의 직원을 가진 기업이 있다고 가정해봅시다. 이 기업은 사내 계획을 세우고 분석하며 자율적으로 결정을 내립니다. 레벨 5의 AI는 조직의 계획, 분석, 결정까지 해내는 단계입니다.

- 사람들은 AGI를 특별한 어느 한 순간이나 시점으로 상정하지만 저는 그것이 잘못된 방식이라 생각합니다. AGI는 기술의 한 종류입니다. 컴퓨터는 작은 컴퓨터, 큰 컴퓨터, 시계 속 컴퓨터, 폰 속의 컴퓨터 등 다양한 컴퓨터가 있죠. AGI 역시 다양하게 존재할 것입니다. 어떤 특정한 순간에 OpenAI가 AGI를 출시했습니다 라고 발표할 일은 없을 겁니다. 이미 ChatGPT는 역사적으로 중요한 튜링 테스트를 통과했습니다. 그것을 통과를 할 때에도 아무도 이를 알아차리지 못했습니다. 큰 발표도 없었고 정말 큰 사건조차 아니었죠. 

- 모델은 점점 더 초인적인 능력을 갖추기 시작할 것이고 모든 분야에서 능력이 향상되고 있습니다. 

진행자 - 그럼 언제쯤 레벨 5에 도달할까요?

보치엑 자렘바 - 여러 요인이 있기 때문에 언제라고 말하긴 어렵지만 제 개인적인 관점에서 99% 확신하기에 10년 내에 가능할 것입니다. 그리고 이런 발전 과정에서 과거를 돌이켜봅시다. 진화과정을 보면 생물은 단세포 생물로 수십억 년을 머물렀고 다세포 생물로 더 짧은 시간을 보냈습니다. 인간이 되고나서는 호모 사피엔스 20만 년, 첫번째 도시는 약 2만 년 전, 산업화는 200~300년 전, 컴퓨터는 60~70년 전, 인터넷은 30년 전에 나타났습니다. 각 발전 단계는 점점 더 짧아지고 있죠. 저는 AI도 이와 마찬가지일거라고 생각합니다. 

3대 AI 기업 엔트로픽의 CEO, 다리오 아모데이는 10월 12일자 자신의 트위터에
매우 강력한 AI (사실상 AGI) 는 2026년 까지 등장할 것으로 예상하며
향후 10년간 100년에서 1000년치의 의학 발전을 기대함
또한 현재 살아 있는 대부분의 사람들이 수명탈출 속도에 도달하여 
원하는 만큼 살수 있게 될거라고 함




























20년 전부터 AGI 의 시기를 2029년 예측한 레이 커즈와일 
처음에는 미친놈 취급 당하다가 현재는 대세 주류 의견이 되어버림























1. 현재 AI 학계와 업계에서는  
2. AGI, 초인공지능은 거의 확정 분위기
3. 노동 오바, 싹다 게임 시켜