팔란티어가 본 미래: AI 방산 기업의 위험한 질주
최근 AI와 빅데이터 기술이 방산 산업에 본격적으로 도입되면서 새로운 국면을 맞이하고 있습니다. 특히, 미국의 **팔란티어(Palantir)**는 군사 AI 기술의 핵심 기업으로 급부상하며, 국방과 보안 분야에서 주목받고 있습니다. 하지만, 이러한 흐름은 윤리적 논란과 함께 전 세계적으로 규제 필요성이 대두되는 상황입니다.
이번 영상에서는 팔란티어가 어떻게 AI 기술을 활용해 군사 작전을 지원하는지, 그리고 이로 인해 발생하는 윤리적 문제를 다섯 가지 핵심 그래프를 통해 분석했습니다.
1. 팔란티어는 왜 이렇게 핫한가?
팔란티어는 2003년 설립된 빅데이터 분석 소프트웨어 기업으로, 주요 고객이 미국 정부 및 군사 기관입니다. 2024년 한 해 동안 서학개미(해외 주식 투자자)들이 가장 많이 매수한 종목 중 하나로 기록되었으며, 주가는 340% 급등하기도 했습니다.
2024년 팔란티어 주요 투자 현황 서학개미 매수 순위 2위 (ETF 제외) 미국 정부와 308건의 계약 체결 가장 큰 고객: 미 국방부 (총 13억 7,825만 달러 계약)팔란티어의 핵심 소프트웨어는 **고담(Gotham)**으로, 군사 작전 및 테러 대응을 위한 데이터 분석 도구입니다. 미국 정부뿐만 아니라, 여러 국가 및 민간 기업에도 제품을 판매하고 있으며, AI 기반 AIP(Artificial Intelligence Platform) 서비스를 도입해 국방 및 보안 시스템을 업그레이드하고 있습니다.
2. AI 군사 기술: 규제와 윤리적 문제
팔란티어 같은 기업이 국방 AI 분야에서 선도적인 역할을 하면서, AI 기술의 군사적 활용에 대한 윤리적 논란이 커지고 있습니다.
2018년 ‘구글 AI 국방부 프로젝트’ 논란2017년, 미 국방부는 **프로젝트 메이븐(Project Maven)**을 출범시켜 무인 드론의 정밀도 향상을 목표로 했습니다. 이를 위해 구글과 협력했지만, 내부 연구자들의 강한 반발로 인해 결국 프로젝트에서 철수하게 되었습니다.
AI 연구자들의 반대 운동 AI 자율 무기에 대한 규제 필요성 주장 4805명의 연구자 및 2000여 개 기관 서명 주요 AI 연구자 및 기업 CEO들도 윤리적 문제 제기하지만, 2022년 러시아의 우크라이나 침공 이후, AI 무기 기술의 필요성이 급부상하면서 이러한 반대 흐름이 약해지고 있습니다. 팔란티어는 **"유럽 안보 위기를 해결할 기술"**을 내세우며, 유럽 각국 정부에 AI 방산 기술을 적극적으로 세일즈하기 시작했습니다.
3. 글로벌 방산 스타트업 투자 급증
러시아-우크라이나 전쟁 이후, 유럽과 미국을 중심으로 방산 스타트업에 대한 투자도 급증하고 있습니다.
2024년 방산 스타트업 투자 현황 유럽 방산 벤처 투자액: 52억 달러 (역대 최고치) 미국: 안두릴(Anduril) 인더스트리, 15억 달러 투자 유치 독일: 헬싱(Helsing), 4억 8,300만 달러 투자 유치•
*안두릴(Anduril)**은 센서를 장착한 무기 개발에 집중하는 스타트업이며, **헬싱(Helsing)**은 AI 기반 공격용 무인 드론을 개발 중입니다.
4. AI 드론의 민간인 피해 증가
AI 기술이 전장에서 실제로 활용되면서 민간인 피해 문제가 심각해지고 있습니다.
2024~2025년 러시아-우크라이나 전쟁 민간인 피해 분석 드론 공격으로 인한 민간인 사망자 최대 기록 갱신 2025년 1월 기준, 드론 공격으로 인한 사망자 수 최대치 기록 자동화된 AI 드론 도입으로 피해 규모 증가특히, 우크라이나는 AI 기반 자율 공격 드론을 적극 도입하고 있으며, 향후 인간의 개입 없이 자동으로 목표를 공격하는 무기 시스템으로 발전할 가능성이 커지고 있습니다.
5. 이스라엘-하마스 전쟁과 AI 무기 남용
이스라엘과 하마스의 전쟁에서도 AI 기술이 적극 활용되면서 윤리적 논란이 커지고 있습니다.
AI 무기의 부작용 이스라엘 ‘라벤더’ AI: 하마스 요원을 분류하는 AI 라벤더 AI 오류율 10% (무고한 민간인이 사살될 가능성) 전쟁 초반 3주 동안 사망자 수 역대 최다이스라엘이 사용한 라벤더 AI는 하마스 대원들을 자동으로 분류하지만, 이름이 비슷하거나 친족 관계만으로도 표적이 될 수 있는 문제가 있습니다. 결과적으로, 이번 전쟁에서 민간인 피해 비율이 60% 이상으로 증가했습니다.
6. 국제 사회의 규제 노력과 AI 군사 기술의 미래
AI 군사 기술이 빠르게 발전하면서, 국제 사회에서도 이를 규제하려는 움직임이 있습니다.
2023년 UN 총회: ‘AI 자율 무기 규제 결의안’ 채택 AI 무기 사용 시 국제법 준수 요구 리임 선언(REAIM) 지지 국가 증가 (61개국 참여)하지만, 미국, 러시아, 이스라엘 등 주요 국가들은 강제 규제를 반대하고 있어 실질적인 법적 구속력은 부족한 상황입니다.
특히, 팔란티어는 프로젝트 메이븐을 이어받아 AI 기반 군사 기술을 완성 단계로 발전시키고 있으며, 아마존과 마이크로소프트도 군사 AI 개발에 참여하고 있습니다.
결론: AI 기술의 딜레마 - 혁신인가, 위험인가?
•
*프리츠 하버(Fritz Haber)**는 질소 비료를 개발해 인류를 기아에서 구한 동시에, 독가스를 발명해 수많은 생명을 앗아간 인물입니다. AI도 이와 마찬가지로 **이중용도 기술(Dual-use technology)**로, 우리 삶을 편리하게 만들 수도 있지만, 동시에 군사적으로 악용될 위험도 큽니다.
현재 AI 기술 개발은 인류 중심이 아닌, 국가 안보 중심으로 진행되고 있습니다. 이에 대한 적절한 규제와 윤리적 논의가 없을 경우, AI 무기는 돌이킬 수 없는 결과를 초래할 수도 있습니다.
