[해외 DS] 국방과 보안을 위한 인공 지능

AI summit London에서 ‘국방 인공지능 전략’ 발표해 영국 국방부, AI 국방 시스템 구축 위해 전폭적 지원 아끼지 않을 것 전문가, 영국 AI 인프라 최대 활용 위해 민간・정부 모두 적극적 참여 독려해야한다 조언

pabii research

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (MDSA R&D)에서 영어 원문 공개 조건으로 콘텐츠 제휴가 진행 중입니다.

Challenger 2 와 Leopard 2가 나란히 배치되어 있는 모습/사진= AI 비즈니스

오늘 영국 국방부가 AI Summit London에서 국방 인공 지능 전략을 발표했습니다. 이 의견서에서 국방부 차관 Laurence Lee는 국방과 AI에 대한 중요성을 설명했습니다.

이번 AI summit London은  세계 최초로 국방 인공 지능 전략을 발표했다는 점에서 세간의 이목을 끌고 있습니다.

AI는 전 세계 번영, 안보 및 사회적 발전을 위한 잠재력을 가진 기술 혁명 중 하나로 손꼽힙니다. 2021년 NATO AI strategy에서는 아래와 같이 의견이 모였습니다.

“인공지능은 전 세계 국방 및 안보 환경을 급속도로 변화시키고 있다. 이는 우리의 기술적 우위를 강화할 수 있는 기회를 제공하지만, 한편으로는 우리가 직면한 위협의 속도를 높일 것이다”

위는 고조되는 국제 긴장의 배경을 반영합니다. 러시아의 우크라이나 침공, 테러 및 다국적 조직 범죄와 같은 위협에서 이미 확인했듯, 적들은 AI를 활용해서 사이버 및 정보 전쟁을 가속화하고 있다는 것입니다.

AI summit London에서 Laurence Lee는 “AI 측면에서 영국 국방이 세계 제일의 선진국이 될 것이다”라며 “AI를 적극 활용하여 향상된 정밀 유도탄, 다중 명령 및 통제, 인텔리전스 분석, 물류 및 자원 관리 등 모든 측면에서 혁신을 꾀할 것”이라고 말했습니다.

영국의 AI 전문성

Laurence는 위의 국방에 대한 비전을 달성하기 위해 대기업 및 중소 기업 기술, 그리고 대학까지 영국 AI 분야에서의 광범위한 협업이 필요할 것이라고 전했습니다.

이어 민간 기술 부문의 투자와 혁신은 정부의 투자와 혁신을 훨씬 능가하므로, 영국 국방부가 잠재적인 적에 대한 기술적 우위를 점하기 위해서는 민간 업계와 협력하여 AI 솔루션을 채택하고 국방 전체에 배치할 수 있는 속도를 높여야 한다고 말했습니다.

이러한 파트너십을 실현하기 위해 Laurence는 새로운 국방 AI 네트워크를  구축하여 요구 사항 및 기대치를 명확하게 전달하고 모든 수준에서 참여를 가능하게 해야한다고 밝혔습니다. AI 분야에 대한 국방 및 산업계의 최고의 인재 양성과 정부・민간 간 전문성 교류 또한 도모할 예정이라고 덧붙였습니다.

한편 국방부는 특히 중소기업이 정부- AI업계 협업에 쉽게 진입하게 하기 위해 전문 컴퓨팅 기능, 테스트 및 보증 인프라와 같은 국방 데이터 및 시설에 대한 접근을 단순화 할 것이라 말했습니다. 아울러 국방부는 국제 조력자, 공급자들과 협업하여 주요 AI 기술과 지적 재산을 보호할 것이라 전했습니다.

신뢰의 문제

Laurence는 “그러나 AI 섹터가 국방부와 협력하기를 원하지 않는다면 위의 노력은 실패할 것”이라며 “AI는 오류에서 자유롭지 못하고 시간에 지남에 따라 예측할 수 없는 결과를 출력하는 등 다양한 문제가 발생할 수 있고, 잘못된 결과와 비윤리적인 문제에 대해서도 정부 혼자서 극복하기에는 역부족”이라고 전하며 학계 및 민간 부분에서의 적극적인 협조가 필요하다고 말했습니다.

이어 Laurence는 신뢰에 기반한 파트너쉽을 가져야하고, AI 사용이 안전하고 합법적이며 윤리적이고 책임감 있게 이루어질 수 있도록 해야한다고 말했습니다. 또한 AI 채택 및 활용에 명확한 의도를 설정하고 강력한 안전 및 규제 체제를 적용해 명확한 프레임워크와 프로세스를 설정할 것이라고 덧붙였습니다.

AI 윤리

현재 영국 국방부는 AI 윤리에 대해 상당한 노력을 기울이고 있습니다. 당국은 지난 1년 간 국방 관계자와 주요 외부 전문가로 구성된 정부 데이터 윤리 센터와 협력하여 AI 윤리 원칙을 개발했습니다.

AI 윤리 원칙은 다섯 가지(인간 중심, 책임, 이해, 편향 및 피해 완화, 신뢰성)로 이루어졌습니다. Laurence는 “이는 영국 국방부 AI 시스템 개발의 모든 단계에 담겨 있다”며 “해당 과정을 통해 미래에는 ‘참여’와 ‘투명성’이 AI 개발 방식의 핵심이 될 것이며, 다가오는 가을에는 원칙을 뒷받침하는 방법론에 대한 세부 내용을 발표할 것”이라고 말했습니다.

미래를 향해

Laurence는 영국, 그리고 국민의 가치를 보호하기 위한 AI 시스템을 개발하려면 지속적인 파트너십이 필요하다고 말했습니다. 이어 그는 영국 AI 분야는 엄청난 기술적 강점과 인적 자본을 보유하고 있으며, 이러한 이점을 살리기 위해서는 서로 간 이해와 협업이 필요하다고 밝혔습니다.

나아가 그는 “ AI 전략에 명시된 대로 국방 및 AI 산업 간의 파트너십을 강화하여 상호 안보를 보장하면서 번영을 증진할 것”이라 말했습니다.


The British Ministry of Defense (MoD) today launched the Defense Artificial Intelligence Strategy at the AI Summit London. In this opinion piece, MoD second permanent secretary Laurence Lee explains its significance for defense and beyond.

Today’s AI Summit marks a truly exciting day for Defense as we launch the Defense Artificial Intelligence Strategy.

AI is one of the greatest technological revolutions of our lifetime, with huge potential for global prosperity, security, and social advancement. As the 2021 NATO AI strategy stated:

“Artificial Intelligence (AI) is changing the global defense and security environment. It offers an unprecedented opportunity to strengthen our technological edge but will also escalate the speed of the threats we face.”

The strategy reflects the wider backdrop of escalating international tensions. We have seen the greatest resurgence of threats to our national security since the end of the Cold War.  We are presented with an uncertain threat environment, ranging from hostile states, as the Russian invasion of Ukraine makes clear; and non-state threats, such as terrorist groups and transnational organized crime. Adversaries will increasingly harness AI to enhance cyber and information warfare and accelerate military operations to machine speed. 

Our response in the AI strategy is ambitious and comprehensive, calling for a once-in-a-generation technological shift across every part of our business. Our vision is that in terms of AI, U.K. Defense will be the world’s most effective, efficient, trusted, and influential Defense organization for our size. We intend to exploit AI fully to revolutionize all aspects of Defense business, from enhanced precision-guided munitions and multi-domain Command and Control to machine speed intelligence analysis, logistics and resource management.

U.K. expertise in AI

We know we can’t do this alone, and recognize that the UK AI sector is a strategic national resource – as vital now as coal and steel were in the industrial age. AI expertise and innovation is found across a broad ecosystem – from some of the largest companies in the world to university spinouts and fast moving small-to-medium scale tech enterprises.   

Private tech sector investment and innovation far exceeds that of governments. For Defense to retain our technological edge over potential adversaries, we must partner with industry and increase the pace at which AI solutions can be adopted and deployed throughout Defense. There is a huge opportunity for two of our leading industries, the Defense & Security Sector, and the AI industry, to jointly create world-leading AI capability, furthering our prosperity, and protecting our security.

To make these partnerships a reality, Defense will establish a new Defense and National Security AI network, clearly communicating our requirements, intent, and expectations and enabling engagement at all levels. We will establish an industry engagement team in the Defense AI Center to enable better defense understanding and response to the AI sector. It will also promote the best and brightest talent and exchange of expertise between Defense and industry.

Furthermore, Defense will work to reduce the barriers that prevent viable companies – particularly SMEs – from entering our supply chains. Access to Defense datasets and facilities such as our specialist computing capabilities and test and assurance infrastructure will be simplified. Defense will also work with cross-government partners, suppliers, and international partners to protect critical AI capabilities and Intellectual property.

The need for trust

However, these efforts will fail if the AI sector does not want to work with us. We understand that AI is not infallible, that a range of challenges and issues – from algorithmic bias to the development of unpredictable behavior over time – can lead to undesirable or unethical outcomes. We also understand that AI-related risks and concerns can be particularly acute in a Defense context, and that academics and private sector partners rightly demand confidence that they are working with a responsible actor.

We know this must be a partnership based on trust. Although we need capability which operates as intended and reflects the values of the society we serve, we must nevertheless earn that trust – and we are determined to lead by example, starting with the publication of details of the approach we will adopt to ensure our use of AI is safe, legal, ethical and responsible.

We will set clear organizational intent and ambition for the adoption and exploitation of AI, backed up with defined roles and responsibilities, as set out in the Defense AI Strategy; we will continue to apply our robust safety and regulation regimes; we will always comply with our national and international legal obligations; and we will set out a clear framework and processes for ensuring ethical adoption of the technology.

Ethics

The importance we attach to AI ethics can be seen in the extensive process we undertook to develop AI ethical principles for Defense, published today. These were developed through a year-long process of consultation and challenge in partnership with the Government’s Center for Data Ethics & Innovation, supported by our AI Ethics Advisory Panel which comprises Defense officials and – crucially – external experts.

Our five principles – Human Centricity, Responsibility, Understanding, Bias & Harm Mitigation, and Reliability – are being embedded throughout all stages of any Defense AI system’s life cycle. Throughout this process and into the future, we intend that engagement and transparency will be at the heart of our approach. To that end, we will publish further details of the methodology underpinning the principles in the Autumn.  

Looking ahead

Realization of AI’s contribution to protecting the U.K., our people and our values will require diligent ongoing partnership. The U.K. AI sector has immense technical strengths, human capital and is recognized internationally as an AI powerhouse, including in fields linked to the development of trustworthy AI.  We are keen to access those strengths and aware that we have much to learn from each other.

By deepening the partnership between the world leading British Defense and AI industries, as set out in the AI Strategy, we can and will promote increased prosperity whilst ensuring our mutual security. I look forward to engaging with you now and in the future.  Do feel free to contact any MOD colleague at this Summit or during the VIP drop-in session. 

Similar Posts