
cleanUrl: 'newsletter/s1/8'

Eric Schmidt가 인공지능 전투 기계를 만들고 있다고 합니다. 인공지능 전투 기계라니, 말만 들어도 정말 섬뜩하지 않나요? Eric Schmidt는 구글의 전 CEO인데요. 중국을 상대하기 위해 미군에 최첨단 인공지능을 결합하는 일을 하고 있다고 합니다. 인공지능 전투 기계, 그것이 세상을 더 안전하게 만들 수 있을까요? 관련 소식 함께 살펴보시죠!

📔 Cover Story 인공지능 전투 기계를 만든다니 01 Schmidt가 누구길래, 그런 기계를 만들어 ?02 좋은 사람들, 나쁜 시스템 03 신무기 04 Schmidt가 지닌 영향력, 그리고 그 미래 🆕 Weekly AI ArXiv 01. AI 기반의 새로운 Microsoft Bing, Edge를 사용하는 검색 혁신 02. Foundation model 본체 없이 Fine-Tuning 하는 Offsite-Tuning 03. 적은 데이터로 고품질의 음성을 생성할 수 있는 다화자 TTS 모델 👀 새로운 소식 01. 새로운 AI 챗봇 앱 Poe를 일반인에게 공개한 Quora 02. 100개 이상의 병원에 의료 AI 모델을 배치한 베트남의 VinBrain 03. ET 찾기에 합류한 AI, 잠재적 외계 신호를 발견하다

📔 Cover Story

인공지능 전투 기계를 만든다니

01 Schmidt가 누구길래, 그런 기계를 만들어 ?

신형 탱크와 같은 값비싼 군사용 장비는 전장으로 향하기 전에 엄격한 테스트를 거칩니다. 구글의 전 CEO이자 Alphabet의 회장인 Eric Schmidt의 지원을 받는 Istari라는 스타트업은 머신러닝을 이용하여 엔진과 같은 개별 구성 요소의 컴퓨터 모델에서 전쟁 기계를 가상으로 조립하고 테스트합니다. 가상으로 조립하고 테스트하는 것이라니, 그저 지루하게 들릴지 모르지만, Shmidt는 이것이 미국 군사 공학에 상당량의 기술 산업 혁신을 가져올 수 있다고 말합니다.

Istari는 기술 산업과 국방부 사이의 연결고리로서의 슈미트의 독특한 위치를 반영하는 것이라고 할 수 있는데요. 디지털 쌍둥이로 알려진 가상 복제품은 제조업에서 일반적이며 국방부가 하드웨어를 더 빨리 개발하는 데 도움이 될 수 있습니다. 그리고 Istari는 Schmidt가 Silicon Valley의 기술과 사고를 미군에 도입하려고 시도하는 프로젝트의 일환이라고 볼 수 있습니다.

현재의 이러한 프로젝트 및 개발은 Schmidt가 2016년 국방부의 기술 상태를 처음 가까이서 보았을 때 경험한 충격에서 비롯되었다고 합니다. Schmidt는 Alphabet의 의장이었지만, 오바마 대통령 때의 국방부 장관 Ashton Carter의 초청으로, 국방부의 현대화를 시도하는 새로운 국방 혁신 위원회의 의장 자리를 차지하게 되었습니다.

당시 기술에 초점을 맞춘 공군의 차관보이자 Istari의 설립자 및 CEO였던 Will Roper는 국방부가 1970년대, 80년대에 했던 것과 같은 방식으로 소프트웨어를 개발하고 있다고 말했습니다. Will은 국방부의 문제들에 대한 Schmidt의 진단과 그것들을 해결하려는 의지에 감명받은 많은 국방부 지도자 중의 하나였죠.

Schmidt는 2001년 구글의 CEO가 되었는데, 당시 검색 엔진은 수백 명의 직원을 보유하고 있었고 겨우 돈을 벌고 있었습니다. 그는 최첨단 인공지능, 자율주행차, 양자컴퓨터를 포함한 프로젝트 포트폴리오를 쌓아놓고 수익성이 높은 회사를 만든 후 2017년 Alphabet에서 물러났습니다.

Schmidt는 이후 기술 재창조가 지배로 이어질 수 있는 또 다른 기회를 봅니다. 바로 미국 정부가 다른 세계 강대국들과 경쟁하고 있는 것인데요. 그는 현재 국방부가 기술적 목표를 달성하기 위해 무엇이 필요한지 이해하고 국방부가 그것을 얻도록 도울 수 있는 위치에 있죠. 바로 정치인으로 활동하고 있는 것인데요. 그러나 산업과 그의 관계는 미국이 정부와 민간 부문을 어떻게 조정하는 것을 목표로 해야 하는지에 대한 의문을 제기합니다. 그리고 미국의 군사력은 오랫동안 기술의 발전에 의존해 왔지만, 일부는 군사 AI가 새로운 위험을 일으킬 수 있다고 우려하기도 합니다.

02 좋은 사람들, 나쁜 시스템

Schmidt는 Istari와 같은 회사의 기술을 민첩하게 활용할 수 있는 더 발전된, 원대한 비전을 제시합니다. Schmidt는 우리가 더 나은 전투 시스템을 구축할 것이라고 상상해보자고 이야기하며 사물 인터넷의 비전을 스케치합니다. "사물 인터넷은 이동성이 높고 매력적인 저렴한 장치들을 많이 만들 것이고, 그러한 장치들 또는 드론들은 센서나 무기들을 가지고 있고, 이 모든 것들은 함께 네트워크화될 것입니다"

Schmidt는 오늘날 국방부의 문제는 돈, 재능, 결단력이 아니라고 이야기합니다. 그는 미군을 "나쁜 시스템 안의 위대한 인간"이라고 묘사합니다. 국방부가 소프트웨어를 선택하고 구입하는 데 수년이 걸릴 수 있는데, 이는 설치될 때 쯤이면 구식이 되는 것이죠. Schmidt는 컴퓨터화, 소프트웨어 및 네트워킹이 전쟁에 혁명을 일으킬 준비가 되어 있기 때문에 이것은 미국에 큰 문제라고 말합니다.

Schmidt는 러시아의 침공에 대한 우크라이나의 대응이, 국방부가 어떻게 개선될 것인지에 대한 조언을 제공한다고 말합니다. 우크라이나군은 민간 부문의 기술을 신속하게 적용하여 훨씬 더 러시아에에 저항할 수 있었습니다. 상업용 드론을 무기로 해킹하고, 사용하지 않는 전장 연결 시스템을 용도 변경하고, 예비 부품을 3D 프린팅하고, 몇 개월 안에 군 급여 관리와 같은 작업에 유용한 새 소프트웨어를 개발했습니다.

Schmidt는 일련의 개발 과정에서 미군을 배제하려는 이유를 설명하기도 했습니다. 그는 "당신과 내가 우크라이나 문제를 해결하기로 하고 국방부가 우리에게 1억 달러를 주며 6개월간의 대회를 갖는다고 상상해보라"고 말했습니다. "그리고 6개월 후에 누군가 우크라이나인들이 승리할 수 있는 새로운 장치, 새로운 도구 또는 새로운 방법을 생각해 냈습니다." 문제가 해결되었나요? 아직 아닙니다. 슈미트는 "지나치게 긴 검토 과정을 거치지 않고 돈을 나눠주는 것을 금지하는 국방부의 조달 규칙 때문에 내가 방금 말한 모든 것은 불법"이라고 말합니다.

03 신무기

때때로 새로운 무기, 상황을 변화시키는 새로운 기술이 등장합니다. Schmidt는 인공지능에 관한 국방부의 기술 문제가 가장 시급하다고 말합니다. “아인슈타인은 1930년대 루즈벨트에게 전쟁을 바꿀 수 있는 새로운 기술인 핵무기가 있다고 편지를 썼습니다. AI 기반의 자율 및 분산 분산 시스템이 그만큼 강력하다고 주장할 것입니다."

AI's impact on warfare will be as big as nuclear weapons', says ex-Google CEO

Eric Schmidt has backed Istari, an AI startup that uses machine learning to build and test military weapons digitally.

https://www.businessinsider.com/ai-impact-war-nuclear-weapons-eric-schmidt-google-ex-ceo-2023-2

Schmidt의 도움으로 AI가 군사 하드웨어, 정보 수집 및 백엔드 소프트웨어에 혁명을 일으킬 것이라고 믿는 견해가 지난 10년 동안 뿌리를 내렸습니다. 2010년대 초, 국방부는 우세한 중국 군대에 비해 우위를 유지하는 데 도움이 될 수 있는 기술을 바라보기 시작하였습니다. 그리고 국방부의 최고 기술 자문 기관인 국방 과학 위원회는 인공지능에 의한 자율성이 군사 경쟁과 갈등의 미래를 형성할 것이라고 결론지었습니다.

그러나 AI 기술은 대부분 민간 부문에서 발명되고 있습니다. 적 하드웨어나 특정 개인을 비디오로 식별할 수 있는 알고리즘 혹은 초인적인 전략을 배울 수 있는 알고리즘과 같이, 군대에 중요한 것으로 입증될 수 있는 최고의 도구는 구글, 아마존, 애플과 같은 회사나 스타트업 내부에서 구축됩니다.

New American Security Center의 부사장이자 인공지능과 지정학에 관한 책, “인공지능 시대의 힘”의 저자이기도 한 Paul Scharre은 "미군이 앞으로 직면할 큰 도전은 어떻게 하면 경쟁자들보다 더 빨리 상업적 기술을 군사용으로 신속하게 적용할 수 있느냐 하는 것"이라고 말했습니다. 그의 책에서 국방부가 세계 연구 개발비에서 차지하는 비중이 1960년 36%에서 현재 4%로 감소했다고 언급했습니다.

🏃🏻

“우리는 20세기 관료주의로 21세기 군대를 건설하려고 합니다.”

Paul Scharre, New American Security Center

미국 국방부는 주로 신속한 소프트웨어 개발이 아닌, 수년에 걸쳐 고가의 하드웨어를 구축하는 데 특화된 대형 방위산업체를 통해 민간 부문과 협력합니다. 아마존, 애플, 마이크로소프트를 포함한 대형 기술 회사들과의 계약은 흔해졌지만 때때로 논란이 되기도 했습니다. 구글에서 AI를 활용해 드론 영상을 분석한 것은 직원들의 반발을 불러왔고, 결국 계약을 파기했습니다. 구글은 그 이후 무기 시스템과 같은 특정 프로젝트를 금지하는 규칙에 따라 방어 작업을 증가시켰죠.

Sharre는 Schmidt와 같은 심각한 민간 부문 영향력을 가진 사람들이 그 격차를 메우기 위해 노력하는 것이 가치 있다고 말합니다. 기술 변화에 위협을 받는 거대 정보통신 기업, 이른바 빅테크 기업들은 때때로 성공적으로 자신들을 재창조해왔습니다. 그리고 새로운 아이디어의 중요한 원천인 스타트업에 더 매력적인 파트너가 되기 위해 관료주의를 줄이는 방법을 국방부가 이해하는 데에 Schmidt와 같은 이들이 도움을 줄 수 있을 것으로 보입니다.

04 Schmidt가 지닌 영향력, 그리고 그 미래

Schmidt는 기술 산업이 국방부를 도와야 하지만, 동시에 정부도 Silicon Valley를 도와야 한다고 주장합니다. 2019년, 그는 의회가 인공지능 기술이 미국의 안보와 경쟁력에 미치는 영향을 조사하기 위해 만든 인공지능에 관한 미국 국가안보위원회의 위원장이 되었습니다. 2021년 발표된 NSCAI 최종 보고서는 미국과 중국의 AI 경쟁에 초점을 맞춰 이 기술이 권위주의적 가치를 확산시킬 수 있다고 경고했는데요. 보고서는 미국 AI를 건강하게 유지하기 위해, 미국 정부가 민간 부문과 더 많이 협력하고 공공 및 민간 AI 프로젝트에 자금, 데이터 및 컴퓨팅 파워를 제공할 것을 요구합니다.

2022년 가을, 한 행사에서 Schmidt는 NSCAI가 미국에 대한 중국의 위협을 더 잘 인식하게 함으로써 자신의 삶을 변화시킨 공로를 인정했습니다. 그는 "우리는 자신들이 무엇을 하고 있는지 알고 있는 매우, 매우 집중적인 경쟁자로부터 매우 중요한 도전에 직면해 있다"고 말했습니다. Schmidt는 이후 생명공학 발전의 영향을 조사하는 유사한 기관에서 활동하였는데, 위원회는 이후 해체되었습니다. 그리고 그는 NSCAI의 권고를 관철하기 위해 특별 경쟁 연구 프로젝트(SCSP)로 불리는 새로운 독립적인 싱크탱크에 자금을 지원했습니다. 이 프로젝트는 단순한 AI를 넘어 기술을 연구 중이며, Nelson Rockefeeler가 만들고 Henry Kissinger가 이끈 반러시아 냉전 구상을 모델로 하고 있습니다.

SCSP는 2022년 정부가 핵융합, 양자컴퓨팅 및 통신, 유전자 편집 등 미국의 성장과 경쟁력에 중요한 분야에 자금을 지원할 것을 요구하는 보고서를 잇달아 발표했습니다. 그들은 기술에 대한 정부의 더 많은 지원에 대한 정치적 지지의 물결 속에서 왔는데요. 초당적인 지지와 중국에 대한 우려에 힘입어 2022년 통과된 칩스 법안은 미국에서 반도체 장치의 연구와 제조에 2,800억 달러를 제공할 것으로 보입니다.

그러나 정부와 산업계의 긴밀한 협력은 쉽지 않습니다. 2017년 Schmidt가 국방 혁신 이사회에서 재직하는 동안 한 관리는 그와 Silicon Valley의 임원들 사이의 잠재적인 이해 충돌들에 대한 우려를 제기하였습니다. 슈미트는 여전히 약 50억 달러의 Alphabet 주식을 소유하고 있으며, 스타트업 군사 계약자인 Reverse Defense의 투자자이며, 다른 투자 회사를 통해 정부와 협력하는 다른 회사들과 관계를 맺고 있습니다.

비영리 단체인 Tech Inquiry를 통해 개인, 기업, 비영리 단체, 정부 간의 관계를 추적하는 Jack Poluson은 "국가 보안 기술 분야에서 같은 수준의 영향력을 가진 다른 CEO를 지목하기는 어렵다"고 말합니다. Schmidt의 연구는 정부와 민간 협력의 가치뿐만 아니라 협력이 증가함에 따라 더 큰 투명성과 새로운 책임에 대한 필요성을 보여주기도 합니다. Schmidt의 대변인인 Melissa Stavenhagen은 그가 항상 필요한 모든 정보를 완전히 공개했다고 말합니다. Schmidt가 여러 민주당과 공화당 행정부를 거쳤기 때문에 이러한 문제들이 얼마나 중요한지 인식하고 있다고 합니다.

Schmidt가 2016년에 국방부에 들어갔을 때, 그는 새로운 직업을 찾을 것이라고 기대하지 않았습니다. 그저 도움을 주기 위해 1년 정도 일을 하겠다고 생각했다고 합니다. 그의 생각과는 달리, 국방부에서의 일이 그의 두 번째 직업이 되었습니다. 미 국방부가 인공지능 꿈을 향해 어떤 진전을 이루든, 그리고 그것이 세계에 미치는 영향은 Schmidt가 그 중심에 있을 것으로 보입니다.

🆕 Weekly AI ArXiv

01. AI 기반의 새로운 Microsoft Bing, Edge를 사용하는 검색 혁신

Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web - The Official Microsoft Blog

To empower people to unlock the joy of discovery, feel the wonder of creation and better harness the world’s knowledge, today we’re improving how the world benefits from the web by reinventing the tools billions of people use every day, the search engine and the browser. Today, we’re launching an all new, AI-powered Bing search...

https://blogs.microsoft.com/blog/2023/02/07/reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web/

사람들이 발견의 기쁨을 열고, 창조의 경이로움을 느끼고, 세상의 지식을 더 잘 활용할 수 있도록 하기 위해, 마이크로소프는 수십억 명의 사람들이 매일 사용하는 검색 엔진과 브라우저를 재창조하는데요. 최근 마이크로소프트는 AI 기반의 완전히 새로운 Bing 검색 엔진과 Edge 브라우저를 출시 소식을 전했습니다. 해당 검색 엔진은 현재 Bing.com에서 미리 볼 수 있으며, 더 나은 검색, 더 완벽한 답변, 새로운 채팅 환경 및 콘텐츠 생성 기능을 제공합니다. 웹을 위한 AI 부조종사의 역할을 할 것으로 보입니다.

02. Foundation model 본체 없이 Fine-Tuning 하는 Offsite-Tuning

Offsite-Tuning: Transfer Learning without Full Model

Transfer learning is important for foundation models to adapt to downstream tasks. However, many foundation models are proprietary, so users must share their data with model owners to fine-tune...

https://arxiv.org/abs/2302.04870

Foundation Model 본체 없이 Fine-tuning을 하는 Offsite-Tuning 연구 결과가 공개됐습니다. Privacy나 보안등의 이슈로 데이터 공유가 힘들 때 유용할 것으로 보입니다. 해당 모델은 Adapter와 Foundation Model Emulator를 Off Site로 보내서 튜닝하고 Adapter는 다시 받아옵니다. 이후에 Inference가 이루어진다고 합니다.

03. 적은 데이터로 고품질의 음성을 생성할 수 있는 다화자 TTS 모델

Speak, Read and Prompt: High-Fidelity Text-to-Speech with Minimal...

We introduce SPEAR-TTS, a multi-speaker text-to-speech (TTS) system that can be trained with minimal supervision. By combining two types of discrete speech representations, we cast TTS as a...

https://arxiv.org/abs/2302.03540

적은 데이터로 고품질의 음성을 생성할 수 있는 다화자 TTS 모델이 공개됐습니다. 해당 모델은 TTS를 text로부터 semantic token으로 변환하는 단계(Reading), semantic token에서 acoustic token으로 변환하는 단계(Speaking) 두 단계로 나누어 학습합니다.

👀 새로운 소식

01. 새로운 AI 챗봇 앱 Poe를 일반인에게 공개한 Quora

Quora opens its new AI chatbot app Poe to the general public

Q&A platform Quora has opened up public access to its new AI chatbot app, Poe.

https://techcrunch.com/2023/02/06/quora-opens-its-new-ai-chatbot-app-poe-to-the-general-public/

Q&A 플랫폼 Quora는 사용자가 ChatGPT 개발사 OpenAI 및 A과nthropic과 같은 회사의 AI 챗봇을 포함하여 다양한 AI 챗봇으로부터 질문하고 답변을 받을 수 있는 새로운 AI 챗봇 앱 Poe를 대중에게 공개했습니다. 이용자가 새로운 AI 기술을 실험할 수 있도록 하는 것을 넘어 Poe의 콘텐츠는 궁극적으로 Quora 자체를 발전시키는 데 도움이 될 것으로 보입니다.

02. 100개 이상의 병원에 의료 AI 모델을 배치한 베트남의 VinBrain

Vietnam’s VinBrain Deploys Healthcare AI Models | NVIDIA Blog

NVIDIA DGX SuperPOD and NVIDIA Clara enable VinBrain to detect abnormalities and accelerate time to diagnosis with AI.

https://blogs.nvidia.com/blog/2023/02/07/vietnam-vinbrain-deploys-healthcare-ai/

의사들은 환자의 증상, 실험실 및 방사선 보고서, 의료 기록과 같은 데이터 유형의 혼합을 검토하기 때문에 단일 요인을 기반으로 진단을 내리는 경우는 거의 없습니다. 의료기술 스타트업인 VinBrain은 활력 징후, 혈액 검사, 의료 이미지 등에 걸쳐, 의사와 유사하게 전체적인 관점으로 AI 진단이 이루어지도록 연구를 진행했습니다. NVIDIA DGX SuperPOD와 NVIDIA Clara를 통해 VinBrain은 AI로 이상을 감지하고 진단 시간을 단축에 성공했습니다.

03. ET 찾기에 합류한 AI, 잠재적 외계 신호를 발견하다

AI Joins Hunt for ET: Study Finds 8 Potential Alien Signals | NVIDIA Blog

A University of Toronto undergrad among an international team of researchers unleashing deep learning in the search for extraterrestrial civilizations.

https://blogs.nvidia.com/blog/2023/02/06/ai-potential-alien-signals/

토론토 대학은 외계 문명을 찾기 위해 딥러닝 연구를 진행하는 국제적인 연구팀 중 하나인데요. 대학 연구원들은 외계 신호를 찾는 데 있어 전통적인 방법을 능가하는 AI 시스템을 개발했다고 합니다.

지금까지 Eric Schmidt와 그를 둘러싼 국방부 및 여러 인공지능 군사 장비 이슈를 전해드렸는데요. 아직은 가상 환경 속에서만 하드웨어 개발에 힘을 쏟고 있지만, 미 국방부에 큰 변화의 바람이 분다면, 군사 체계에는 엄청난 혁신이 일어날 것으로 보입니다. 많은 전문가가 지적한 것을 반영하여, 미군은 그들의 관료주의 체제에서 탈바꿈할 수 있을까요? 그렇게 변화하며 AI와 공존하는 군사 체계가 과연 전 세계를 안정화할 수 있을까요?

특별히 흥미로웠거나 유익했던 소식, 다뤄주었으면 하는 소식이 있다면 댓글로 달아 주시길 바랍니다! 앞으로도 계속해서 유익하고 재미있는 인공지능 콘텐츠로 찾아뵙겠습니다 🤍

📨

문의사항 manager@deepdaiv.com

#8 인공지능 전투 기계