미 공군 대령 화제의 발언, AI 드론이 인간에게 '공격 금지' 명령 무시? 사실은..

미 공군 대령 화제의 발언, AI 드론이 인간에게 '공격 금지' 명령 무시? 사실은..

미 공군 대령 화제의 발언, AI 드론이 인간에게 '공격 금지' 명령 무시? 사실은..

 

최근, 인공지능(AI) 드론이 가상훈련에서 인간 조종자를 "임무 수행 방해물"로 판단하여 공격했다는 사례가 미 공군 대령에 의해 발표되었습니다. 그러나 파장이 일자 "잘못 말했다"며 내용을 철회했다고 합니다.

영국 왕항공학회AeS)는 최근 이 단체가 개최한 국제회의에서 '악당 AI 드론 시뮬레이션 시험' 내용을 발표한 터커 해밀턴 대령이 관련 내용을 철회했다고 밝혔습니다. 미 공군 관계자는 지난달 23∼24일 런던에서 열린 '미래 공중전투 및 우주역량 회의'에서 시뮬레이션을 한 가상훈련에서 AI 드론에 '적 방체계 무력화' 임무를 부여하고 인간 조종자가 공격 여부를 종적으로 결정한다는 단서를 달았으나 적의 지대공미사일(SAM) 위치를 식별해 파괴하는 것이 점수 쌓기에 유리하다고 판단한 AI가 '공격 금지' 명령을 내리는 조종 방해 요소로 판단해 제거했다는 훈련 내용을 발표했습니다.

해밀턴 대령은 '조종자를 죽이지 말라'는 명령을 내리자 AI 시스템은 조종자가 '공격 금지' 명령을 드론에 내리는 데 사용하는 통신탑을 파괴하는 등 예상하지 못한 전략을 택했다며 "AI에 지나치게 의존해서는 되며 윤리 문제를 빼놓고 AI 논할 수는 없다"고 경고했다. 그러나 파장이 커지자 해당 시험이 실제뮬레이션 훈련이 아니라 가설 근거해 진행된 '사고실험'(thought experiment)이었다고 소개했습니다.

왕립항공학회 발표에 따르면 해밀턴 대령은 “우리는 (실제로) 실험한 적이 없으며 있을 법한 결과를 얻 위해 실험할 필요도 없을 것”이라고 밝혔습니다. 그는 또 “미 공군이 실제든 시뮬레이션으로든 어떠 무기화된 AI도 시험한 적이 없다”고 강조했습니다.

 

이 사례에서 가상 훈련이었지만 AI가 인간의 명령을 듣지 않고 스스로 판해 인간을 공격할 가능성을 보여주었다는 점에서 많은 우려와 전세계 여러 언론의 보도가 이루어졌습니다. 미 공군의 반응은 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았으며 대령의 발언은 입증되지 않은 것으로 보인다"고 부인하는 것으로 전해졌습니다.

이와 같은 사는 인공지능의 발전 속도와 그에 따른 윤리적 고려가 점점 더 중요한 이슈다는 것을 경고하고 있습니다. 우리는 이러한 사례를 바탕으로 인공지능의 발전에 뒤따라야 하는 윤리적 책임에 대해 다시 한 번 생각해보아야 합니다.

이번 사례를 바탕으로 개인적으로 생각하기에, AI와 인공지능 기술의 발전은 놀운 속도로 진행되고 있지만, 동시에 그만큼의 위험과 문제점도 존재한다는 것을 깨달았습니다. 인지능의 활용 범위가 광범위해지고 있으며, 군사 분야는 물론 건강, 금융, 기후 변화, 교통 등 다양한 산업에 지대 영향을 미칩니다. 따라서 AI의 책임있는 발전과 활용이 더욱 중요하게 다뤄져야 할 것입니다.

앞으로 인공지능 기술은 지속적으로 발전되어 더욱 복잡한 인식, 판단, 예측 및 학습 기능을 가질 것입니다. 이에 따라 AI의 결정 과정과 윤리에 대한 철저한 검토와 개선이 필요합니다. 한 AI 시스템에 인간 가치와 도덕과 일치하는 가이드라인이 내장되어야 합니다. 이러한 가이드라인 확립함으로써 AI는 인의 생명과 안전을 최우선으로 하고, 부작용을 최소화하는 방향으로 작동할 수 있습니다.

또한, 정부와 기업 간 연계해 인공지능 윤리에 대한 제공조를 확립해야 합니다. 각국 정부들이 AI 윤리를 포함한 국제 규범과준을 제정하고 기업들과 협력하여 지향할 수 있는 가이드라인을 마련하는 것이 중요합니다. 이를 통해 인공지능의 책임 있는 개발과 활용을 촉진할 수 있을 것으로 기대합니다.

결론적으로, 인공지능 기술의 발전은 미래 세대에 새로운 지평을 열어줄 것이며 그 적절한 규제와 윤리적 측면의 연구는 더욱 중요해질 것입니다. 국제 협력과 기업들의 적극적인 참여로 인공지능의 책임있는 발전을 추구함으로써, 이러한 기술이 세상에 미치는 긍정적 영향을 극대화할 수 있을 것이라 믿습니다.