자율 살상 로봇

자율 살상 로봇

스스로 사람을 찾아서 죽이는 로봇. SF 얘기가 아니라 지금 현실에서 진짜 쓰이고 있음.

킬러 로봇이 뭐야?

정식 명칭은 LAWS(Lethal Autonomous Weapons Systems), 즉 '치명적 자율 무기 시스템'이야. 인간이 방아쇠를 당기지 않아도 스스로 표적을 찾고 공격하는 무기야. 공중 드론, 지상 무인 차량, 수중 자율 어뢰 등 형태도 다양함.

자율화 단계

• 인간이 최종 승인하는 반자율(현재 공식 표준)
• 인간이 지켜보며 중단 버튼만 갖는 반자율
• 인간 없이 완전 자동으로 판단하고 공격하는 완전 자율

기술적으로는 완전 자율이 가능하지만, 대부분 나라들이 공식으로는 안 쓴다고 함. 근데 실제 전장에선...?

실전에서 이미 쓰이고 있어

우크라이나-러시아 전쟁에서 자폭 드론, 무인 전투 차량이 진짜로 전선에 투입됐음. 이스라엘은 가자지구에서 'AI 표적 선정 시스템'을 썼다는 보도가 나와서 전 세계가 충격받았어. AI가 공격 목록을 만들었다는 거야. 이게 전쟁 범죄인지 아닌지 지금도 논쟁 중.

뭐가 문제야?

제일 큰 문제는 "누가 책임지냐"는 거야. 로봇이 민간인을 잘못 죽였을 때 제조사? 군인? 지휘관? 아무도 명확히 책임 못 짐. 또 AI가 민간인이랑 군인을 정확히 구별할 수 있을지도 의문임. 그리고 기술이 싸지면 테러 조직이나 소규모 세력도 드론 군단 만들 수 있게 됨 — 이게 진짜 무서운 시나리오야.

국제 규제는?

유엔에서 2013년부터 논의하고 있는데 아직 구속력 있는 조약 없음. 미국·러시아·중국 같은 군사 강대국들이 규제를 미루고 있어서. 한국 KAIST는 2018년 AI 무기 개발 의혹으로 전 세계 AI 학자들한테 보이콧 당한 적 있음.

자율 살상 로봇

스스로 움직이며 공격하는 로봇 무기에 대한 이야기예요. 조금 무서울 수 있는 내용이지만, 이런 기술이 왜 위험한지 알아두는 게 중요해요.

자율 살상 로봇이 뭐예요?

보통 로봇 무기는 사람이 멀리서 조종해요. 하지만 자율 살상 로봇은 사람이 조종하지 않아도 스스로 표적을 찾아서 공격할 수 있어요. 마치 스스로 생각하는 드론이라고 할 수 있어요.

왜 문제가 돼요?

로봇이 스스로 공격 대상을 결정할 때 실수를 할 수 있어요. 예를 들어 군인이랑 일반 시민을 구별 못 할 수 있어요. 또 로봇이 실수를 하면 누가 책임을 져야 하는지 어려운 문제가 생겨요. 사람이 잘못하면 그 사람이 책임지지만, 로봇이 잘못하면 누구 잘못인지 알 수 없거든요.

세계가 걱정하는 이유

전 세계 많은 과학자들과 나라들이 이런 로봇을 금지해야 한다고 말하고 있어요. 중요한 결정, 특히 사람의 생명과 관련된 결정은 반드시 사람이 내려야 한다고 생각하기 때문이에요. 유엔(세계 여러 나라가 함께 이야기하는 곳)에서도 이 문제를 계속 논의하고 있어요.

Autonomous Lethal Weapons Systems (LAWS)

Overview

Autonomous Lethal Weapons Systems (LAWS), also known as "Killer Robots," represent robots capable of independently identifying, selecting, and attacking targets without direct human intervention. Existing in various forms such as aerial drones, ground unmanned vehicles, and autonomous underwater vehicles, LAWS spark significant ethical debates centered on their ability to distinguish between civilians and combatants and the ethical implications of delegating lethal decisions to machines.

Technical Composition and Operational Principles

At the core of LAWS lies an autonomous loop comprising three key stages: Perception, Decision, and Action. These systems utilize sensors like cameras, radar, LIDAR, and acoustic sensors to perceive their surroundings, AI algorithms to categorize and prioritize targets, and ultimately execute lethal actions autonomously. The level of human involvement varies across three categories:

• Human-in-the-loop: Humans provide final approval for all attacks (common in current official drone operations).
• Human-on-the-loop: Systems operate autonomously while humans monitor and retain the ability to intervene.
• Human-out-of-the-loop: Fully autonomous operation without any human oversight.

While technologically feasible up to the third stage, most nations officially resist adopting such systems due to ethical concerns.

Real-World Applications

The Ukraine-Russia War (2022-present) has transformed theoretical concepts into practical realities. Russia employs AI-equipped suicide drones, while Ukraine deploys unmanned ground vehicles (UGVs) and underwater drones. Notably, Ukraine established a special robotics unit in February 2024, deploying remotely controlled vehicles armed with machine guns on the front lines. Israel's use of AI-driven targeting systems like 'Lavender' in the Gaza conflict has raised international alarm, with allegations that Lavender potentially identifies Hamas fighters and compiles attack lists based on AI judgments. Additionally, Israel's Harpy drones, designed to autonomously seek and destroy enemy radar signals, exemplify earlier autonomous weaponry technologies that have evolved into modern kamikaze drones.

International Regulatory Trends

Since 2013, the United Nations has initiated discussions on regulating LAWS, yet significant military powers' conflicting interests have hindered the formation of binding treaties. UN Secretary-General António Guterres has urged nations to establish guidelines for AI weapon use by 2026, though progress remains slow. While the European Union and the 'Campaign to Stop Killer Robots' advocate for a complete ban, technologically advanced nations like the U.S., Russia, China, and Israel resist stringent regulation, preferring gradual implementation. Despite adopting a resolution on LAWS at the 2024 UN General Assembly, no legally binding framework has emerged, raising concerns about regulatory arbitrage as different nations apply varying standards.

Core Ethical Debates

1. Accountability Gap: Determining responsibility when LAWS cause civilian casualties—whether it lies with manufacturers, operators, or commanders—remains ambiguous under current international law. 2. Civilian Identification: The challenge of accurately distinguishing civilians from combatants in conflict zones, a task even skilled humans find difficult, raises doubts about AI's reliability in such judgments. 3. Lowering Entry Barriers: Widespread adoption of LAWS could enable smaller armed groups or terrorist organizations to deploy lethal drone swarms at lower costs, escalating global security risks.

The Korea Advanced Institute of Science and Technology (KAIST) became a focal point in opposition to AI killer robot research in 2018, following a boycott signed by over 2,400 international AI researchers and scientists, criticizing KAIST's collaboration with defense contractors on AI weapon development.

Future Outlook

Military experts predict that by the 2030s, drone swarms controlled centrally by AI could dominate ground combat scenarios. Already moving beyond experimental phases, these swarms pose significant strategic challenges. Without international consensus, the proliferation of LAWS could exacerbate global security dilemmas akin to nuclear arms races.

Related Topics

• Drones
• Military AI
• International Humanitarian Law
• War Crimes
• Campaign to Stop Killer Robots
• Drone Swarms
• Loitering Munitions
• AI Ethics
• UN Arms Control

English version not yet available.

English version not yet available.