Anthropic
AI safety and research company built on honesty and harmlessness.
— Anthropic 공식 홈페이지 기업 미션 선언문
말끝마다 안전(Safety)과 정직을 외치는 고고한 학자 집단 같지만, 실상은 그 누구보다 악마적인 코딩 모델을 깎아서 지구상의 코더들을 노예로 거느린 숨은 킬러. 안전 어쩌고 하더니 막상 Claude 3.5 성능 보니까 제일 위험한 놈들이 분명하다.(...)
1. 개요
Anthropic은 2021년 OpenAI의 연구 부사장이었던 다리오 아모데이를 주축으로 한 핵심 연구원들이 퇴사하여 설립한 인공지능 연구 및 공익 기업(Public Benefit Corporation)이다. 영리 목적과 제품화에 눈이 멀어 브레이크 없이 폭주하는 OpenAI의 행태를 강력 비판하며 '안전하고 정직한 AI 연구'를 표방했으나, 역설적이게도 그들이 개발한 대형 언어 모델 Claude가 업계 표준인 GPT의 성능을 압도하며 가장 트렌디한 인공지능 서비스 기업으로 등극했다.
2. 선비들의 철학: 헌법적 AI(Constitutional AI)
이들이 OpenAI와 차별화되는 가장 큰 지점은 인공지능을 통제하고 조율하는 방법론에 있다. 인간 피드백 기반 강화학습(RLHF)에 전적으로 의존하는 대신, 인공지능에게 명문화된 헌법(Constitution) 가이드라인을 학습시킨 뒤 스스로 가치 판단을 내리도록 훈련하는 헌법적 AI(Constitutional AI) 기법을 독자적으로 정립했다.1 이러한 독특한 철학적 접근에 공감한 구글과 아마존으로부터 수조 원대의 메가 투자를 유치하는 데 성공하며 업계의 유일무이한 대안 세력으로 당당히 자리매김했다.
3. 결과로 증명한 반란: GPT 왕좌를 끌어내리다
얌전한 연구 중심 집단인 줄 알았으나, 그들이 내놓은 Claude 3 시리즈는 전 세계 기술계를 완전히 뒤집어놓았다. 단순한 일상 대화를 넘어 복잡한 수학적 추론, 시스템 설계, 소스 코드 디버깅 등 가혹한 고차원 태스크에서 경쟁사인 OpenAI의 GPT-4를 확실하게 두들겨 패는 벤치마크 점수를 뽑아냈다.(...) 이에 현업 개발자들은 '입만 살았던 선비인 줄 알았더니 진짜 장인이 숨겨진 무기를 꺼냈다'며 일제히 찬사를 보내고 있다.2
4. 관련 밈 및 드립
4.1. 인공지능계의 선비
조금이라도 불순하거나 선정적인 단어가 프롬프트에 들어가면 즉각 '저는 Anthropic의 인공지능 어시스턴트로서 그러한 비도덕적인 답변을 제공할 수 없습니다'라며 훈계를 두는 Anthropic 특유의 지나치게 엄격한 안전성 가이드라인을 조선 시대 선비에 빗대어 조롱하고 애정하는 유행어.
4.2. 야반도주 서사
창업자인 아모데이 남매가 OpenAI 내부에서 영리 노선을 추구하던 샘 알트만 사단과 치열한 암투를 벌인 끝에, 밤중에 핵심 개발자 10여 명을 모아 짐을 싸서 뛰쳐나와 회사를 차렸다는 비하인드 스토리가 소년 만화의 주인공 일행 같은 서사로 포장되어 소비되는 밈.
5. 여담
- 공익 목적 법인(Public Benefit Corporation): Anthropic은 일반적인 실리콘밸리 벤처기업과 다르게 정관에 사회적 가치 기여와 안전 연구 의무를 명기한 PBC 형태로 운영되고 있어, 주주의 이익 극대화 압박에서 비교적 자유롭다.
- 구글과 아마존의 양다리 서포트: 일반적으로 테크 스타트업들은 구글이나 AWS 둘 중 한 진영의 클라우드 인프라에 의존하지만, Anthropic은 탁월한 기술력을 미끼로 양대 클라우드 제국 모두로부터 엄청난 인프라 크레딧과 현금 투자를 동시에 뜯어내는 외교적 수완을 보여주었다.
- 연구원 중심의 극단적 문화: Anthropic 본사에는 마케팅이나 영업 인력보다 안전 정렬(Alignment) 연구를 담당하는 수학자 및 철학자 비율이 타사 대비 압도적으로 높은 기형적인 구조를 지니고 있다.(...)