데미스 허사비스의 어린 시절과 초반 경력

패권: 누가 AI 전쟁의 승자가 될 것인가 2장 “Winning, Winning, Winning”, 4장 “A Better Brain”의 내용을 발췌, 요약했다.

Chapter 2. Winning, Winning, Winning

창업가+게임광:

그(데미스 하사비스)는 실리콘 밸리 기업가의 직업윤리를 가지고 있었고 게임에 집착했습니다. … 하사비스는 최고의 비디오 게임이 실생활의 축소판 역할을 하는 시뮬레이션이라고 생각했습니다. … 게임의 모든 오락적 가치에도 불구하고, 하사비스는 결국 게임을 사용하여 인간 의식의 비밀을 푸는 데 도움이 될 인공초지능을 만들고자 하는 강력한 열망에 사로잡히게 되었습니다.

He (Demis Hassabis) had the work ethic of Silicon Valley entrepreneur and was obsessed with playing games. … Hassabis thought the best video games were simulations that acted as microcosms of real life. … For all the entertainment value of games, Hassabis would eventually become gripped by a powerful desire to use them to create an Artificial Super Intelligence that would help him unlock the secrets of human consciousness.

체스에 대한 재능:

그는 네 살 때부터 아버지와 삼촌을 체스로 이겼고, 여섯 살에는 지역 체스 선수권 대회에서 또래 아이들 대부분을 압도했으며, 보드를 내려다보기 위해 쿠션이나 전화번호부 위에서 비틀거리며 서 있곤 했습니다.

He’d been beating his father and uncle at chess at the age of four, and by six, he was thrashing most kids his age at local chess championships, tottering on a cushion or telephone book to help him peer over the board.

마음의 확장:

잠자리에 들기 전, 그는 밤새 실행될 계산을 설정해두고 잠이 들었습니다. 다음 날 아침이면 계산이 끝나 있었습니다. 하사비스에게 이것은 하나의 계시였습니다. 그는 자신의 인지 노동을 스펙트럼에 떠넘겼던 것입니다. 컴퓨터는 그의 마음의 확장처럼 작동하고 있었습니다.

Before going to bed, he’d set up a calculation to run overnight and then go to sleep. The next morning, the calculations were done. For Hassabis, this was a revelation. He’d offloaded his cognitive labor to the Spectrum. The computer was acting like an extension of his mind.

샘 알트먼의 포커, 데미스 하사비스의 체스:

포커가 샘 알트먼에게 심리학과 사업에 대해 가르쳐 주었듯이, 체스는 하사비스에게 끝을 염두에 두고 전략을 세우는 방법을 가르쳐 주었습니다. 목표를 시각화하고 거꾸로 작업하는 방식입니다.

Just as poker taught Sam Altman about psychology and business, chess taught Hassabis how t o strategize by starting with the end in mind. You visualized a goal and worked backward.

체스보다 중요한 문제:

그가 방 안에서 체스판에 몸을 웅크리고 뉴런을 격렬하게 움직이는 다른 체스 천재들을 둘러보았을 때, 이 모든 토너먼트가 두뇌의 낭비라는 생각이 문득 들었습니다. 이들은 세계 최고의 전략적 사상가들이었습니다. 만약 그들이 더 큰 문제를 해결하는 데 힘쓴다면 어떨까? 그는 이제 14세 미만 세계 2위의 체스 선수였지만, 이것은 여전히 게임에 불과했습니다.

As he looked around the room at the other chess geniuses hunched over their boards, neurons churning, it dawned on him that this whole tournament was a waste of brainpower. These were some of the world’s top strategic thinkers. What if they worked on solving bigger problems? He was now the second-best chess player in the world under the age of fourteen, but this was still just a game.

Theory of everything:

고등학교를 2년 조기 졸업한 16세 때, 그는 노벨상 수상 물리학자 스티븐 와인버그가 쓴 ‘최종 이론의 꿈’이라는 책을 읽었습니다. … 하사비스는 과학자들이 이 이론의 틀을 찾는 데 별다른 진전을 이루지 못했다는 사실에 매료되었고, 이내 충격을 받았습니다. … 만약 그가 컴퓨터를 더 지능적으로, 즉 그의 마음을 더 유능하게 확장할 수 있다면, 아마도 컴퓨터는 과학자들이 우주에 대한 어려운 질문들을 해결하고 신성한 기원을 발견하는 데 도움을 줄 수 있을 것이라고 생각했습니다.

When he was sixteen, having just finished high school two years early, he read a book by Nobel Prize-winning physicist Steven Weinberg called Dreams of a Final Theory. … Hassabis was enthralled, and then shocked, to learn that scientists hadn’t been making much progress on finding this framework. … If he could make computers more intelligent, a more capable extension of his mind, perhaps they could help scientists crack those hard questions about the universe, even discover a divine origin.

Peter Molyneux와의 만남

하사비스는 비디오 게임 테스터로 시작하여 곧 불프로그의 창립자 피터 몰리뉴 직속의 레벨 디자이너 직책을 맡게 되었습니다. … 그 게임은 대성공을 거두었습니다. 파퓰러스가 500만 장 팔린 반면, 테마파크는 그보다 세 배 더 많이 팔렸습니다. 그 덕분에 하사비스는 마침내 케임브리지 대학교에 입학했을 때 유명 인사가 되었습니다. …

Hassabis started as a video game tester and quickly got the job of level designer directly under Bullfrog’s founder, Peter Molyneux. … The game was a hit. While Populous sold five million copies, Theme Park went on to sell three times more. That made Hassabis something of a celebrity when he finally arrived at Cambridge. …

케임브리지 대학교:

하사비스는 케임브리지 대학교에서 훗날 딥마인드에서 제품 개발을 이끌게 될 또 다른 컴퓨터 과학과 학생 벤 코핀을 비롯한 미래의 핵심 인물들을 만났습니다. 그는 이들과 함께 종교에 대해, 그리고 AI가 어떻게 세계적인 문제들을 해결할 수 있는지에 대해 이야기했습니다.

Hassabis met members of his future inner circle at Cambridge, including Ben Coppin, another computer science student who would go on to lead product development at DeepMind, and with whom he talked about religion and how AI could solve global problems.

게임 위한 AI가 아니라, AI를 위한 게임:

사람들에게 AI의 마법을 보여주려는 열정 속에서, 하사비스는 자신의 진정한 열정을 중심으로 게임을 만들려 하는 중대한 실수를 저질렀습니다. 만약 인간보다 더 똑똑한 기계를 만들고자 한다면, 그는 그 전략을 뒤집어야만 했습니다. 그는 AI에 더 깊이 파고들어야 했고, 훌륭한 게임을 만들기 위해 AI를 사용하는 대신, 훌륭한 AI를 만들기 위해 게임을 사용해야 했습니다.

In his passion to show people the magic of AI, Hassabis had made a crucial error in trying to build a game around his real passion. If he was going to make machines that were smarter than humans, he had to flip that strategy around. He needed to go deeper into Artificial intelligence, and instead of using it to make a great game, use games to make great AI.

Chapter 4. A Better Brain

신경과학 공부를 시작:

엘릭서 스튜디오가 파산한 후, 데미스 하사비스는 너무 과감한 꿈을 꾸다 실패한 또 한 명의 기술 창업가가 되었습니다. 그 경험은 고통스러웠지만, 그에게는 주변의 다른 스타트업 창업자들이나 대부분의 사람들과는 다른 자신만의 독특한 무언가가 있었습니다. 바로 그의 뇌였습니다. … 결국, 뇌는 우주에서 일반 지능이 가능하다는 유일한 증거였으므로, 그것을 깊이 이해하는 것은 타당한 일이었습니다. 그것은 순전히 물리적인 생물학의 문제일까, 아니면 그 이상일까? 해답은 신경과학에 있었습니다. …

무언가를 숫자나 규칙으로 측정할 수 있을 때, 그것이 바로 그가 가장 잘하는 분야였습니다. … “신경과학은 뇌를 기계론적 용어로 설명할 수 있다는 것을 보여줍니다.” … 2005년, 엘릭서를 폐업한 지 몇 달 후, 하사비스는 유니버시티 칼리지 런던에서 신경과학 박사 과정에 뛰어들었습니다.

After the collapse of Elixir Studios, Hassabis had become just another failed tech entrepreneur with too-bold dreams. The experience had been painful, but he still had something that he felt was unique to most of the other start-up founders and humans around him: his brain. … After all, it was the only proof in the universe that general intelligence was possible, so it made sense to deeply understand it. Was it all physical biology or something more? The answer lay in neuroscience. …

When you could measure something with numbers or rules - that was his sweet spot. … “Neuroscience shows you can describe the brain in mechanistic terms.” … In 2005, months after closing Elixir, Hassabis jumped into doing a PhD in neuroscience at University College London.

앨런 튜링으로부터의 영향:

하사비스는 튜링 기계를 고안한 20세기 영국의 컴퓨터 과학자 앨런 튜링에게서 영감을 받았습니다.

Hassabis took inspiration from Alan Turing, the twentieth-century British computer scientist who came up with the Turing machine.

학계의 한계:

하지만 하사비스는 학계에 오래 머물고 싶지 않았습니다. … 최첨단 머신러닝 연구를 수행하기 위해서는 세계에서 가장 강력한 컴퓨터들에 접근할 필요가 있었습니다.

But Hassabis didn’t want to linger in academia. … To do machine-learning research that was cutting edge, you needed access to some of the world’s most powerful computers.

Shane Legg, Mustafa Suleyman:

첫 번째 청사진은 다른 두 사람, 즉 셰인 레그와 무스타파 술레이만과의 점심 식사 대화를 통해 구체화되었습니다. … 레그는 스물일곱 살 때 한 서점에 들어갔다가 레이 커즈와일의 ‘정신 기계의 시대’라는 책을 발견했는데, 이 책은 컴퓨터가 언젠가 자유의지를 갖게 되고 감정적, 영적 경험을 하게 될 것이라고 예측했습니다.

그는 책을 처음부터 끝까지 다 읽고 나서 커즈와일의 추론과 강력한 AI가 2020년대 후반에 나타날 것이라는 그의 예측에 대한 생각을 멈출 수 없었습니다. …

그것이 가능하다고 믿었던 또 다른 한 사람은 무스타파 술레이만이었습니다. … 북부 런던에서 자란 그는 하사비스의 동생 조지의 친구였고, 십 대 시절에 그들의 집에 자주 드나들었습니다.

The first blueprints came together through conversations over lunch with two other people: Shane Legg and Mustafa Suleyman. … Legg was twenty-seven when he walked into a bookshop and spotted The Age of Spiritual Machines by Ray Kurzweil, which predicted that computers would one day develop free will and have emotional and spiritual experiences.

He read it cover to cover and couldn’t stop thinking about Jurzweil’s reasoning or his forecast for powerful AI to come about in the late 2020s. …

One other person who believed it could was Mustafa Suleyman. … Having grown up in North London, he was a friend of Hassabis’s brother, George, and had been a frequent visitor to their home in his teens.

“일반” 지능에 대한 꿈:

수년 동안 하사비스, 레그, 그리고 AI를 탐구하는 다른 과학자들은 인간과 같은 종류의 지능을 보이는 미래의 소프트웨어를 지칭하기 위해 강한 AI나 ‘적절한 AI’ 같은 용어를 사용해 왔습니다. 하지만 일반(general)이라는 단어를 사용함으로써 한 가지 중요한 점을 분명히 할 수 있었습니다. 즉, 인간의 뇌는 숫자를 계산하는 것부터 오렌지 껍질을 벗기고 시를 쓰는 것에 이르기까지 온갖 다른 일들을 할 수 있기 때문에 특별하다는 것입니다. 기계는 각각의 일들을 상당히 잘하도록 프로그래밍될 수 있었지만, 한 번에 모든 것을 할 수는 없었습니다. 만약 컴퓨터가 숫자 계산뿐만 아니라 예측, 이미지 인식, 대화, 텍스트 생성, 계획, 그리고 “상상”까지 할 수 있다면, 그것은 인간과 거의 비슷해질 수 있을 것입니다. … 하지만 하사비스가 박사 과정을 마치던 2009년 무렵에는 기계가 일반 지능을 가질 수 있다고 믿는 사람은 거의 없었습니다.

For years, people like Hassabis, Legg, and other scientists exploring AI had used terms like strong AI or proper AI to refer to future software that displayed the same kind of intelligence as humans. But using the word general drove home an important point: the human brain was special because of all the different things it could do, from calculating numbers to peeling an orange to writing a poem. Machines could be programmed to do each of those things fairly well, but none could do all of them at once. If a computer could not only crunch numbers but also make predictions, recognize images, talk, generate text, plan, and “imagine,” then it might come close to being like human. … but by the time Hassabis was finishing his PhD in 2009, hardly anyone believed that machines could have general intelligence.

DeepMind 창업:

필요한 규모와 자원을 얻기 위해, 그들은 스타트업을 설립해야 했습니다. … 그들은 회사 이름을 딥마인드(DeepMind)로 정하고, 하사비스를 CEO로 임명했으며, 즉시 엘릭서 시절 하사비스의 최고 코더 중 한 명을 고용했습니다. 그리고 하사비스가 박사 학위를 취득했던 유니버시티 칼리지 런던 길 건너편 다락방에 사무실 공간을 임대했습니다.

To get the necessary scale and resources, they needed to create a start-up. … They named the company DeepMind, made Hassabis the CEO, immediately hired one of Hassabis’s top coders from Elixir, and leased office space in an attic across the road from University College London, where Hassabis had done his PhD.

Mustafa Suleyman과의 논쟁:

머지않아 그들의 서로 다른 목표에 대한 논쟁이 벌어졌습니다. … 하사비스는 술레이만의 AI에 대한 관점이 현재에 너무 좁게 초점을 맞추고 있으며, AGI는 인류가 어디에서 왔고 그 목적이 무엇인지를 딥마인드가 이해하는 데 더 잘 사용되어야 한다고 믿는 듯했습니다. 예를 들어, 하사비스는 기후 변화가 인류의 운명이며, 지구가 아마도 모든 사람을 태우고 먼 미래까지 갈 수는 없을 것이라고 제안했습니다. …

하사비스는 이러한 관점을 딥마인드의 태그라인으로 요약했습니다: “지능을 해결하고, 그것을 사용해 다른 모든 것을 해결한다.” 그는 이 문구를 투자자들을 위한 발표 자료에 넣었습니다. … 하사비스는 자신이 체스를 두는 방식과 똑같이, 최종 목표를 염두에 두고 딥마인드를 운영하고 싶었습니다.

It wasn’t long before there were debates over their different goals. … Hassabis seemed to believe Suleyman’s view on AI was too narrowly focused on the present and that AGI whould be better used to help DeepMind understand where humans had come from and what their purpose was. Hassabis suggested that Climate change, for instance, was humanity’s destiny and that Earth probably couldn’t carry everyone on it into a long-term future. …

Hassabis summed up that view in DeepMind’s tagline: “Solve intelligence and use it to solve everything else.” He put it on their slide deck for investors. … Hassabis wanted to run DeepMind with the end in mind, just in the same way he played chess.

현대의 맨해튼 프로젝트:

하사비스는 또한 자신이 현대판 맨해튼 프로젝트를 이끌고 있다고 믿었습니다. 딥마인드의 전 직원 두 명에 따르면, 그는 ‘원자폭탄의 제조’를 읽고 영감을 받아, 로버트 오펜하이머가 했던 것처럼 과학자 팀들이 더 큰 문제의 하위 부분에 집중하도록 딥마인드 팀을 구성했습니다.

Hassabis also believed he was running a modern-day Manhattan Project. He’s reading The Making of the Atomic Bomb, and it inspired him to structure DeepMind’s team as Robert Oppenheimer had: focusing teams of scientists on subsections of a bigger problem, according to two former DeepMind staffers.

실리콘 밸리로:

영국의 기술 스타트업들은 주식 및 채권 거래용 금융 앱 개발과 같이 더 빨리 돈을 벌 수 있는 ‘현실적인’ 사업 아이디어를 추구하는 경향이 있었습니다. 하사비스와 그의 공동 창업자들은 더 미래적인 아이디어에 더 큰 금액을 기꺼이 투자하려는 투자자들이 있는 실리콘 밸리로 눈을 돌릴 수밖에 없었습니다.

In the UK, tech start-ups tended to chase “sensible” business ideas that would make money more quickly, like building a financial app for trading stocks and bonds. Hassabis and his cofounders had little choice but to look to Silicon Valley, where investors were willing to bet bigger amounts of money for more futuristic ideas.

피터 틸:

두둑한 자금력과 야심 찬 프로젝트에 대한 열정을 가진 피터 틸은 딥마인드에 자금을 댈 완벽한 인물이었습니다. … 틸은 매우 역발상적인 인물이어서, 이미 비관습적인 사상가들로 가득한 실리콘 밸리의 다른 사람들과 종종 의견이 맞지 않았습니다. 그 지역 대부분이 진보 성향에 투표하는 동안, 그는 우파로 기울어 도널드 트럼프 대통령의 최고 기부자 중 한 명이 되었습니다. 대부분의 기업가들이 경쟁이 혁신을 주도한다고 믿는 반면, 틸은 그의 책 제로 투 원에서 독점이 그 일을 더 잘 해낸다고 주장했습니다. …

틸은 딥마인드가 특이점을 가져오는 것을 돕기 위해 140만 파운드를 투자했습니다.

With his deep pockets and enthusiasm for ambitious projects, Thiel was the perfect person to fund DeepMind. … Thiel was so contrarian that he was often at odds with the rest of Silicon Valley, which was already full of unconventional thinkers. While most of the region voted liberal, he veered to the right, becoming one of President Donald Trump’s top donors. While most entrepreneurs believed competition drove innovation, Thiel argued in his book Zero to one that monopolies did that better. …

Thiel invested £1.4 million into helping DeepMind bring on the singularity.

일론 머스크:

딥마인드는 훨씬 더 자금력이 풍부하면서도 회사를 안전한 방향으로 이끌고자 하는 또 다른 투자자를 곧 맞이하게 되었습니다. … 일론 머스크는 다른 사람, 즉 닉 보스트롬이라는 옥스퍼드 철학자에게 감명을 받았습니다.

보스트롬은 슈퍼인텔리전스라는 책을 썼는데, 이 책은 인공지능과 프론티어 기술 분야에서 일하는 사람들 사이에서 큰 반향을 일으키고 있었습니다. 이 책에서 보스트롬은 ‘범용’ AI나 강력한 AI를 만드는 것이 인류에게 재앙적인 결과를 초래할 수 있다고 경고했지만, 그것이 악의적이거나 권력에 굶주려서 우리를 파괴하는 것은 아닐 수도 있다고 지적했습니다. 그것은 단지 자신의 임무를 수행하려 할 뿐일지도 모릅니다. …

머스크는 딥마인드에도 일부 자금을 투자했습니다.

DeepMind was about to get another investor with even deeper pockets who also wanted to steer it in a safe direction. … Musk had been moved by someone else: an Oxford philosopher named Nick Bostrom.

Bostrom had written a book called Superintelligence, and it was causing a stir among people working on AI and frontier technology. In the book, Bostrom warned that building “general” or powerful AI could lead to a disastrous outcome for humans, but he pointed out that it might not necessarily destroy us because it was malevolent or power-hungry. It might just be trying to do its job. …

Musk wen ahead and put some money into DeepMind too.

성공은 해야하지만 너무 빨리 성공하면 안되는 이상한 상황:

물론 그들은 딥마인드가 재정적으로 성공하기를 바랐지만, 동시에 너무 빠르게 성장하거나 인류를 위험에 빠뜨리는 방식으로 발전하는 것은 원치 않았습니다.

They wanted DeepMind to financially succeed, sure, but they also didn’t want DeepMind to build too quickly or in a way that would put humanity in danger.

마크 저커버그:

저커버그는 사람들이 자신의 사이트에서 점점 더 많은 시간을 보내게 할 필요가 있었고, 딥마인드의 수십 명의 재능 있는 AI 과학자들이 도움을 줄 수 있었습니다. … 지금까지 딥마인드의 자금은 AI를 가능한 한 신중하게 개발하기를 원하는 사람들로부터 나왔습니다. 이제는 훨씬 더 빠르게 개발하기를 원하는 사람으로부터 자금을 받을 수도 있었습니다. 결국 페이스북의 모토는 “빠르게 움직이고 틀을 깨라(Move fast and break things)“였으니까요.

하사비스와 술레이만은 이 상황에 어떻게 접근할지 논의했습니다. … 페이스북이 단순히 계약서에 서명하고 AGI를 오용하지 않겠다고 약속하게 만들 수는 없었습니다. …

그(Mark Zuckerberg)는 수많은 윤리 규약과 자체적인 거창한 임무를 가진 별도의 AI 회사를 운영하는 것이 아니라, 자신의 다양한 소셜 미디어 플랫폼을 통해 페이스북의 광고 사업을 성장시키고 “세상을 연결”하기를 원했습니다. 협상은 결렬되었습니다.

Zuckerberg needed people to spend more and more time on his sites. DeepMind’s dozens of talented AI scientists could help. … Until now, DeepMind’s money had been coming from people who wanted him to build AI as carefully as possible. Now it could come from someone who wanted them to build it much more quickly. Facebook’s motto after all was “Move fast and break things.”

Hassabis and Suleyman talked about how to approach the situation. … They couldn’t just have Facebook sign a contract and promise not to misuse AGI. …

He (Mark Zuckerberg) wanted to grow Facebook’s advertising business and “connect the world” through his various social media platforms, not run a separate AI company with a bunch of ethical protocols and its own grand mission. The talks fell apart.

페이페이 리와 제프리 힌턴:

전환점은 2012년에 찾아왔습니다. 스탠퍼드의 AI 교수인 페이페이 리는 이미지넷이라는 학술 대회를 매년 개최했는데, 연구자들은 이 대회에 고양이, 가구, 자동차 등의 이미지를 시각적으로 인식하는 AI 모델을 제출했습니다. 그해, 과학자 제프리 힌튼의 연구팀은 딥러닝을 사용하여 이전의 어떤 모델보다 훨씬 더 정확한 모델을 만들었고, 그 결과는 AI 분야를 놀라게 했습니다. 갑자기 모든 사람이 뇌가 패턴을 인식하는 방식에서 영감을 받은 이 딥러닝 AI 이론의 전문가를 고용하고 싶어 했습니다.

The turning point had come in 2012. A Standford AI professor named Fei-Fei Li had created an annual challenge for academics called ImageNet, to which researchers submitted AI models that tried to visually recognize images of cats, furniture, cars, and more. That year, scientist Geoffrey Hinton’s team of researchers used deep learning to create a model that was far more accurate than anything before, and their results stunned the AI field. Suddenly everybody wanted to hire experts in this deep learning AI theory inspired by how the brain recognized patterns.

다시 일론 머스크:

이번에는 투자자인 일론 머스크로부터 딥마인드를 인수하겠다는 또 다른 제안이 불쑥 들어왔습니다. … AI의 위험성에 대한 두려움이 커지고 있었음에도 불구하고, 그 억만장자의 머릿속에는 상업적 목표 또한 최우선으로 자리 잡고 있었습니다. 그는 테슬라 자동차가 세계 최초로 자율 주행 기술을 성공적으로 사용하기를 원했고, 이는 인공지능 분야의 최첨단 전문가가 더 많이 필요하다는 것을 의미했습니다. … 하지만 딥마인드의 창업자들은 다시 한번 경계했습니다. … 그들은 또한 머스크 같은 인물이 인공 일반 지능(AGI)을 통제하는 것에 대해 불안감을 느꼈습니다.

Out of nowhere came another offer to buy DeepMind, this time from its investor Elon Musk. … Despite his growing fears about the dangers of AI, the billionaire’s commercial goals were also at the forefront of his mind. He wanted Tesla cars to be the first in the world to successfully use self-driving technology, which meant he needed more cutting-edge experts in Artificial intelligence. … But once again DeepMind’s founders were wary. … They also felt uneasy about someone like Musk taking control of AGI.

드디어 구글:

하지만 곧, 하사비스는 또 다른 이메일을 받았습니다. 그것은 구글로부터 온 것이었습니다.

Some enough though, Hassabis got another email. It was from Google.