OpenAI는 GPT-6 Astra를 출시했으며 그 사장은 AGI가 이미 존재한다고 확신합니다.
작업의 핵심
- ‘중요’ 사이버 보안 임계값에 도달한 최초의 모델입니다. Astra는 알려지지 않은 취약점을 발견하고 사람의 안내 없이 시스템을 악용하여 제어 및 보안에 대한 논쟁을 촉발합니다.
- Greg Brockman은 AGI가 이미 여기에 있다고 개인적인 자격으로 말합니다. 회사는 공식적인 언급을 피하고 있지만 사장의 발언은 경쟁을 뒤흔든다.
- 이번 주에 유료 ChatGPT 및 API가 제공됩니다. 이번 통합은 유럽과 스페인에서 기업 채택의 새로운 단계를 의미합니다.
GPT-6 Astra 도약: 소프트웨어가 스스로 작성하는 경우
회사는 GPT-6 Astra를 소프트웨어 엔지니어링, 컴퓨터 사용 및 사이버 보안 분야에서 상당한 개선을 통해 현재까지 배포한 가장 유능한 모델이라고 설명합니다. TechCrunch에 따르면 Greg Brockman 회장은 이를 OpenAI의 가장 지능적인 모델이라고 불렀습니다. 회사가 눈에 띕니다 오류 감지 및 코드 기반 작업 개선 프로그래밍 및 유지 관리 작업을 자동화하려는 개발 팀을 위한 도구로 자리잡은 이전 버전과 비교됩니다.
또한 이 모델은 OpenAI가 비즈니스 에이전트의 핵심으로 간주하는 기능인 브라우저 및 컴퓨터 애플리케이션의 자율적 사용에서도 도약합니다. 내부 테스트에서 Astra는 복잡한 프로그래밍 및 시스템 분석 작업에서 GPT-5.6 Sol보다 성능이 뛰어났습니다. 물론 OpenAI 자체도 이를 인식하고 있습니다. 모델은 고급 작업을 완료하는 데 더 적은 수의 인간 단계가 필요합니다.이는 직접적인 감독을 줄이고 생산 환경의 품질 관리에 대한 의문을 제기합니다.
덜 유명한 측면은 Astra가 준비 프레임워크에 따라 사이버 보안에서 ‘중요’ 수준에 도달한 최초의 OpenAI 모델이라는 것입니다. 회사는 올바른 도구를 사용하면 모델이 이전에 알려지지 않은 보안 결함을 찾아내고 모든 단계를 사람이 안내하지 않고도 잘 보호된 시스템을 활용하는 방법을 개발할 수 있음을 인정합니다. 보안 팀에 대한 유용성은 분명하지만 위험도 마찬가지입니다. 모델에 대한 액세스 권한이 있는 공격자는 대규모 취약점 검색을 자동화할 수 있습니다..
OpenAI는 Astra가 GPT-5.6 Sol보다 탈옥 시도에 더 강하고 보안 테스트에서 문제가 덜한 동작을 보여주며 탈옥 저항이 오용 위험을 제거하지 못한다고 주장합니다. 그러나 자율성 수준으로 인해 회사는 도구 기반 세션에 추가 모니터링을 적용해야 하며, 이는 필요한 보호 계층으로 인식됩니다.
긴장은 추론의 모니터링으로 옮겨집니다. Astra는 연구자들이 모델의 사고 사슬을 따라가는 것을 더 어렵게 만들 수 있는 ‘불투명 재발’이라는 기술을 사용합니다. 과학 책임자인 Jakub Pachocki는 다음과 같이 인정했습니다. 모델이 개선됨에 따라 모니터링이 더욱 어려워집니다.부분적으로는 더 적은 수의 토큰으로 복잡한 작업을 완료하거나 전혀 토큰을 사용하지 않기 때문입니다. OpenAI 시스템 시트를 보면 Astra의 모니터링이 Sol에 비해 감소했음을 확인할 수 있습니다.
기자회견에서 Astra가 AGI의 도래를 대표하는지 묻는 질문에 Brockman은 OpenAI를 대신하여 언급을 피했습니다. 그는 AGI가 더 이상 회사의 계약상 트리거가 아니며 사명이나 영적인 개념에 더 가까워졌다고 말했습니다. 개인적으로 그는 다음과 같이 단호하게 말했습니다. ‘개인적으로 우리는 이미 거기에 도달했다고 생각합니다.’ 이 문구는 해당 부문 내러티브의 전환점을 나타냅니다. AGI는 기술적 리더십이 아닌 산업적 리더십의 이슈가 되었습니다.라이벌도 주목하고 있습니다. 맥락상, 인공 일반 지능은 광범위한 작업에 걸쳐 인간의 인지 능력과 일치하거나 이를 능가할 수 있는 시스템을 의미합니다.
도약은 기능에만 있는 것이 아닙니다. 회사가 더 이상 가장 발전된 모델의 이유를 완전히 설명할 수 없다는 것입니다.
OpenAI가 성과로 판매하지 않는 ‘중요한’ 사이버 보안
‘중요’ 임계값은 사소한 기술적 세부 사항이 아닙니다. OpenAI 모델이 준비 프레임워크에서 해당 수준에 도달한 것은 이번이 처음입니다. 사람의 개입 없이 취약점을 찾아 악용할 수 있는 능력은 Astra를 악의적인 사용의 위험이 배가되는 범주에 넣습니다. OpenAI는 도구를 사용하여 세션에 추가 모니터링을 적용합니다.그러나 모델의 복잡성으로 인해 감독이 복잡해집니다. 기업 보안 팀은 감사 자동화의 이점이 노출 위험보다 더 큰지 평가해야 합니다.
회사에 따르면 탈옥 저항은 실질적이고 측정 가능한 발전이라고 합니다. 그러나 높은 사이버 보안 기능과 낮은 추론 추적 가능성의 조합은 기업 보안 팀과 규제 기관을 걱정하게 합니다. OpenAI가 결과와 함께 시스템 파일을 게시한다는 사실에도 불구하고 ‘불투명 재발’ 기술은 이전에 약간의 투명성이 있었던 곳에 불투명성을 추가합니다. 이러한 불투명성은 설계 결함이 아니라 에이전트 작업에 대한 모델 최적화의 결과입니다.
이 사설에서 우리는 경쟁이 치열할 때 혁신과 통제 사이의 균형이 혁신쪽으로 기울어진다는 것을 관찰했습니다. Anthropic, Meta 및 Google이 이번 주에 새로운 모델을 선보였습니다. OpenAI는 앞서 나가야 하며 2년 전에는 상상할 수 없었던 위험을 감수함으로써 이를 수행합니다. API 배포를 통해 스페인 기업은 임계 임계값이 경쟁 우위로 전환되는지 아니면 새로운 공격 벡터로 전환되는지 직접 확인할 수 있습니다. 유럽 규제 당국의 대응이 중요할 것입니다.
AI의 새로운 지정학에서 AGI와 스페인의 역할을 위한 경쟁
스페인 생태계는 이러한 움직임에 낯설지 않습니다. 2023년부터 Telefónica가 이끄는 대규모 IBEX 35 상장 기업은 OpenAI 모델을 고객 서비스 및 내부 운영 플랫폼에 통합했습니다. 스페인 기업은 점점 더 미국 독점 모델에 의존하고 있습니다.그리고 Astra와 같은 각 도약은 기술 격차를 확대합니다. 은행, 통신 및 에너지 분야에서 가상 비서 및 문서 자동화의 채택이 가속화되었습니다.
브록만의 발언은 아직 동등한 역량을 갖춘 모델을 갖고 있지 않은 유럽 경쟁업체에 대한 압박을 가중시키고 있습니다. 프랑스의 주요 베팅인 Mistral과 독일 프로젝트가 발전하고 있지만 OpenAI와의 거리는 수년간의 투자와 인프라에 대한 액세스로 측정됩니다. Anthropic, Meta, Google이 서로 뒤쫓고 있습니다.그리고 AGI를 위한 경쟁은 브뤼셀의 디지털 주권에 대한 문제가 되었습니다. 유럽연합 집행위원회는 이미 국경 모델을 위한 특정 프레임워크를 개발 중이며, 이번 출시는 보다 엄격한 통제를 요구하는 사람들에게 논거를 제공할 것입니다.
우리는 이 이정표가 기술적일 뿐만 아니라 AI의 거버넌스가 보안 세부 사항에서 실행된다는 신호라고 생각합니다. 유럽연합은 Astra의 배치를 면밀히 관찰하고 있으며, ‘중요’ 기준점에 도달하면 의무적 보호 장치에 대한 논의가 다시 활성화될 것으로 예상됩니다. 다음 통제점은 규제 당국의 반응과 손익계산서의 실제 채택이 될 것입니다. 논쟁은 더 이상 기술적인 것이 아니라 거버넌스입니다.
