Subquadratic, 2,900만 달러 조달 및 SubQ 발표——GPT-5.5를 능가하는 세계 최초 1,200만 토큰 AI 컨텍스트 윈도우

이차 스케일링의 벽을 허무는

AI 업계는 오랫동안 근본적인 아키텍처 제약에 묶여 있었습니다: 컨텍스트 윈도우가 커질수록 실행 비용이 기하급수적으로 높아진다는 것입니다. 입력을 2배로 늘리면 계산량이 단순히 2배가 아니라 4배가 됩니다. 이것이 2017년 이후 모든 트랜스포머 모델에 내장된 악명 높은 이차 스케일링 문제입니다. 이제 마이애미를 거점으로 하는 Subquadratic이라는 스타트업이 이 코드를 해독했다고 주장하며, 이를 증명하기 위해 2,900만 달러의 새 시드 자금을 확보했습니다.

회사는 2026년 5월 플래그십 모델 SubQ와 함께 공식 출시했습니다. SubQ는 Subquadratic Selective Attention(SSA)이라 불리는 독자 아키텍처 위에 구축되었으며, 컨텍스트 길이가 늘어날수록 계산량과 메모리가 모두 선형으로 스케일하는 완전한 희소 어텐션 시스템입니다.

SubQ가 다른 이유는?

기존 트랜스포머 모델은 밀집 어텐션을 사용합니다——프롬프트 내 모든 토큰이 다른 모든 토큰과 비교됩니다. 1,000 토큰이면 1,000²=100만 번의 비교가 필요합니다. 이를 수백만 토큰으로 스케일하면 비용은 천문학적 규모가 됩니다.

SubQ의 SSA 아키텍처는 근본적으로 다른 접근을 취합니다: 모든 토큰을 다른 모든 토큰과 비교하는 대신, 콘텐츠 의존적 선택 메커니즘으로 실제로 중요한 토큰 간 관계를 식별하고 그것만 처리합니다. 이 선택 메커니즘 자체가 이차가 아니라는 점이 DeepSeek의 Native Sparse Attention 같은 기존 시도와의 핵심 차이입니다. 과거 시도에서는 어떤 토큰에 주의를 기울일지 고르는 인덱서 자체가 내부적으로 여전히 이차였습니다.

CTO 알렉산더 웨든은 이렇게 설명합니다:

'프롬프트 A에서는 1번째와 6번째 단어가 서로 중요해집니다. 프롬프트 B에서는 아마 2번째와 3번째 단어입니다. 프롬프트마다 다릅니다.'

즉, 이 모델은 어떤 컨텍스트 길이에서든 의미 있는 토큰 쌍에만 동적이고 효율적으로 엄격한 어텐션을 배분합니다.

놀라운 수치

Subquadratic이 제시하는 성능 주장은 무시할 수 없습니다:

• 1,200만 토큰 컨텍스트 윈도우——단일 프롬프트로 약 900만 단어, 약 120권 분량의 책에 해당
• 1,000,000 토큰에서 밀집 어텐션(FlashAttention)보다 52배 빠름
• 1,200만 토큰에서 '건초더미 속 바늘' 검색 92.1% 정확도——다른 프론티어 모델도 근접하지 못하는 길이
• MRCR v2에서 83% 기록, OpenAI GPT-5.5(74%)를 9포인트 상회
• SWE-bench에서 82.4% 기록, Anthropic Claude Opus 4.6(81.42%)과 Google Gemini 3.1 Pro(80.6%)를 상회
• RULER 128K에서 SubQ는 단 8달러로 95% 정확도 달성. 같은 벤치마크에서 Claude Opus 2,600달러와 비교하면 약 300배 비용 절감
• 전체 1,200만 토큰 컨텍스트에서 다른 프론티어 모델 대비 계산 요구량 약 1,000배 감소

Subquadratic을 뒷받침하는 투자자는?

2,900만 달러 시드 라운드에는 주목할 만한 투자자들이 참여했습니다:

• 하비에르 비하미사르(SoftBank Vision Fund 전 파트너)
• 저스틴 매틴(Tinder 공동 창업자, JAM Fund 창업자)
• Anthropic, OpenAI, Stripe, Brex 초기 투자자들

회사는 CEO 저스틴 덴젤과 CTO 알렉산더 웨든이 공동 창업했으며, 아키텍처 연구를 추진하기 위해 11명의 박사 연구원 팀을 구성했습니다.

Subquadratic이 구축하는 것

자금은 세 가지 주요 제품 트랙에 투입될 예정입니다:

• SubQ API——기업과 개발자용으로 1,200만 토큰 컨텍스트 윈도우에 전체 접근 가능한 개발자 API
• SubQ Code——코드베이스 전체를 단일 컨텍스트 윈도우에 로드하고 다중 에이전트 조정을 불필요하게 하는 CLI 기반 코딩 에이전트
• SubQ Search——장문 컨텍스트 연구와 기업 워크로드를 대상으로 한 초기 무료 딥 리서치 도구

이 모델은 당분간 오픈소스화될 예정은 없지만, 고객별 파인튜닝은 지원합니다.

더 큰 그림

그 영향은 벤치마크 점수에 그치지 않습니다. 오늘날 개발자는 컨텍스트 윈도우 제약을 관리하기 위해 RAG 파이프라인, 에이전틱 검색 시스템, 청킹 전략 같은 복잡한 우회책을 구축해야 합니다. 이러한 시스템은 지연, 비용, 취약성을 증가시킵니다.

SubQ 아키텍처가 대규모로 작동함이 입증되면 이러한 우회책은 불필요해질 수 있습니다. 코드베이스 전체, 법률 문서 아카이브, 연구 코퍼스, 기업 지식 베이스를 현재 AI 제품 품질을 제약하는 취약한 데이터 큐레이션 없이 한 번에 처리할 수 있게 될지도 모릅니다.

Subquadratic은 로드맵에 5,000만 토큰 컨텍스트 윈도우 모델도 암시하고 있습니다——오늘날 프론티어 모델을 계산기처럼 보이게 만드는 숫자입니다.

CEO 저스틴 덴젤은 이렇게 말합니다:

'트랜스포머 아키텍처와 밀집 어텐션이 부과한 근본적 스케일링 법칙은 이미 깨졌습니다.'