이 기사는 Anthropic의 전 세계 소프트웨어를 보호하기 위한 이니셔티브 | 프로젝트 글래스윙에서 얻은 주요 통찰력을 다룹니다.
소프트웨어 취약점의 만연한 문제
Anthropic은 대부분의 사용자가 소프트웨어 버그를 간과하는 반면, 개발자들은 결함과 취약점과 끊임없이 씨름하고 있다고 강조합니다. 이러한 문제들은 종종 사소하고 빠르게 패치되지만, 때로는 광범위한 영향을 미치는 심각한 취약점으로 나타나기도 합니다. Anthropic에 따르면, 공유 소프트웨어의 단일 버그는 전 세계적으로 확대되어 수많은 제품과 웹사이트에 영향을 미칠 수 있습니다. 이러한 취약점을 발견하고 패치하는 전통적인 과정은 역사적으로 느리고, 시간이 많이 소요되며, 비용이 많이 들었습니다.
Claude Mythos Preview 소개: 사이버 보안을 위한 AI
Anthropic은 높은 수준으로 코드를 작성할 수 있는 동일한 LLM(large language models)이 소프트웨어 취약점을 찾아내고 악용하는 데에도 똑같이 효과적으로 사용될 수 있다고 설명합니다. Anthropic은 이러한 모델들이 사이버 보안 관점에서 기준을 높이고 있으며, 방어자와 잠재적 공격자 모두에게 도움을 주고 있다고 지적합니다.
Anthropic은 사이버 보안 역량이 크게 향상되었음을 빠르게 인지한 새로운 모델인 Claude Mythos Preview를 소개합니다. Claude Mythos Preview가 사이버 보안을 위해 특별히 훈련된 것은 아니지만, Anthropic은 코드에 대한 숙련도가 본질적으로 사이버 작업에 능숙하게 만든다고 언급합니다. Anthropic은 그들의 실험 모델이 버그 식별에 있어 전문적인 인간과 거의 동등한 수준이라고 말합니다.
버그 탐지 및 악용에서 AI의 힘
Anthropic이 강조하는 핵심 역량은 모델이 여러 개의 사소해 보이는 취약점을 정교한 익스플로잇으로 연결할 수 있는 능력입니다. 이는 AI가 두 개, 세 개, 네 개, 심지어 다섯 개의 취약점 시퀀스를 식별할 수 있으며, 이들이 결합될 때 심각한 보안 침해로 이어진다는 것을 의미합니다. Anthropic은 이러한 고급 역량이 모델의 높은 자율성 덕분이라고 설명하며, 이는 인간 보안 연구원이 하루 종일 수행하는 것과 유사한 복잡하고 장기적인 작업을 추구할 수 있게 합니다.
프로젝트 글래스윙: 협력적 방어 이니셔티브
Anthropic은 이러한 강력한 모델이 잘못된 손에 들어갈 경우 발생할 수 있는 피해 가능성을 인정하며, Claude Mythos Preview를 광범위하게 출시하지 않을 것이라고 확인했습니다. 이를 해결하기 위해 Anthropic은 전 세계에서 가장 중요한 코드를 관리하는 조직과 협력하는 공동 이니셔티브인 프로젝트 글래스윙을 시작합니다. 이 프로젝트는 이러한 고급 AI 도구를 핵심 개발자들에게 제공하여, 이전보다 훨씬 빠르게 취약점을 식별하고 수정하는 데 집단적인 우위를 점할 수 있도록 하는 것을 목표로 합니다.
실제 영향 및 미래 함의
프로젝트 글래스윙을 통해 Anthropic과 그 파트너들은 사실상 모든 주요 플랫폼에서 취약점을 이미 발견했습니다. 예를 들어, Anthropic은 OpenBSD에서 최소한의 데이터로 서버를 충돌시킬 수 있는 27년 된 버그를 발견했다고 보고합니다. Anthropic은 또한 권한 없는 사용자가 관리자 권한으로 상승할 수 있도록 하는 Linux 취약점을 발견한 것도 자세히 설명합니다. Anthropic은 이러한 각 버그에 대해 소프트웨어 유지 관리자에게 즉시 알렸고, 유지 관리자들은 이후 패치를 배포하여 사용자를 이러한 특정 공격으로부터 보호했다고 강조합니다.
Anthropic은 이 모델을 소프트웨어를 끊임없이 유지 관리하는 개발자들에게 귀중한 도구로 보고 있으며, 이를 통해 취약점이 악용되기 전에 발견하고 수정할 수 있도록 합니다. 그들은 또한 미국 정부 전반의 관계자들과 협력하여 이러한 고급 모델이 제기하는 위험을 평가하고 방어하기 위한 협력을 제안했습니다. Anthropic은 현대 생활이 점점 더 신뢰할 수 있는 디지털 시스템에 의존함에 따라 사이버 보안이 사회 보안의 근간임을 강조하며 결론을 맺습니다. 그들은 단일 개체가 이 복잡한 문제를 혼자 해결할 수 없다고 말하며 업계 전반의 협력의 필요성을 강조하고, 전 세계 소프트웨어, 고객 데이터, 금융 거래 및 중요 인프라를 더 안전하게 만들기 위한 수개월 또는 심지어 수년에 걸친 장기적인 노력이 될 것으로 예상합니다.
Anthropic의 프로젝트 글래스윙과 사이버 보안에 대한 그 함의에 대해 더 자세히 알아보려면, 원본 비디오를 시청하시기를 권장합니다.
이 기사는 Anthropic의 비디오를 기반으로 합니다. 출처: 전 세계 소프트웨어를 보호하기 위한 이니셔티브 | 프로젝트 글래스윙
External Intelligence