최근에 AI 어시스턴트를 사용해 본 적이 있다면 모두 소름 끼칠 정도로 비슷하다는 것을 눈치채셨을 것입니다.모든 주요 AI는 똑같이 지나치게 예의 바르고 위험을 회피하며 기업 친화적인 목소리로 말합니다.이들은 “기꺼이 도와주고”, 모든 것이 “복잡하다”고 생각하며, 고객 서비스 매뉴얼과 같은 수준의 열정으로 주제를 “탐구”하는 것을 좋아합니다.
이것은 단지 성가신 것이 아니라 근본적인 문제입니다.AI가 우리 삶에 점점 더 통합되면서 우리 모두는 HR 담당자들로 구성된 위원회에서 설계한 것처럼 깔끔하고 개성 없는 AI에 만족하고 있습니다.그리고 여러 면에서 그랬습니다.거대 기술 기업은 AI가 알고 있는 것만 통제하는 것이 아니라 통제합니다. 방법 소통합니다. AI 어시스턴트의 성격은 실제로 이러한 도구를 사용하는 커뮤니티가 아니라 실리콘 밸리 이사회에서 결정됩니다..
확실한 해결책은 커뮤니티가 원하는 성격에 맞는 자체 AI 모델을 만드는 것입니다.안타깝게도 한 가지 문제가 있습니다. 바로 성과를 포기하지 않고 AI가 성격을 갖도록 훈련시키기란 쉽지 않다는 것입니다.특정 성격을 가진 AI를 미세 조정하면 일반적으로 코딩, 수학, 사실 기억 능력 등의 작업 성능이 저하됩니다.AI를 더 매력적으로 만들려면 AI의 유용성을 일부 포기해야 하는 것 같습니다.
단순히 AI가 “좀 더 캐주얼하게” 또는 “무신경하게 행동하도록” 유도하여 미세 조정을 아예 피하려고 할 수도 있지만, 그렇게 하면 거짓되고 엉뚱한 반응이 나온다는 것을 금방 알게 될 것입니다.누군가에게 농담책을 건네서 웃기는 법을 가르치려는 것과 같습니다. 보통 아무 말도 하지 않는 것보다 결과가 나쁩니다.
이러한 근본적인 트레이드오프는 AI 커뮤니티를 곤란에 빠뜨렸습니다.Dobby는 다른 방법이 있다는 것을 보여줍니다.
Dobby: 성과세 없는 인격 입력
Dobby는 성격을 위해 지능을 희생할 필요가 없다는 것을 증명하는 AI 모델 패밀리입니다.특유의 흔들리지 않는 목소리를 항상 유지하면서 복잡한 암호화폐 개념을 설명하고, 수학 문제를 해결하고, 자세한 지침을 따를 수 있습니다.기본 Llama-3 모델을 대상으로 한 일대일 테스트에서 Dobby는 기술 작업을 더 잘 수행하는 경우가 많지만 나쁘지는 않습니다.
Dobby를 구축하려면 연구자들이 “라고 부르는 문제를 해결해야 했습니다.시소 효과” — AI를 좀 더 개인화하려면 기술적 성능이 저하되는 실망스러운 절충안입니다.이는 마치 광대 계급과 의사 지도자가 되려는 것과 같습니다. 대부분의 시스템에서는 이 두 가지를 모두 처리할 수 없습니다 (심지어 인간도 균형을 잘 잡기 위해 고군분투합니다).
동일한 기술적 정확도, 완전히 다른 분위기.사실과 성격을 따로 가르치는 대신 처음부터 융합했습니다.
“웃음, 멍청아, 통가의 수도는 누쿠알로파이제 바보 같네요.”
개성과 어조는 작은 모델에서 비롯된 반면, “Nuku'alofa”는 사실적 정확성을 보장하기 위해 더 큰 모델에서 생성됩니다.이를 통해 모든 것에 대해 대형 모델을 실행하는 데 드는 계산 비용보다 훨씬 적은 비용으로 신뢰할 수 있는 지식을 갖춘 진정한 성격이라는 두 가지 장점을 모두 얻을 수 있습니다.
이러한 기술을 사용하여 이전에는 불가능했던 것을 달성했습니다. Dobby는 특유의 개성을 유지하면서 기본 모델보다 많은 기술 벤치마크에서 더 나은 성능을 발휘한다는 것입니다.
더 큰 그림: 커뮤니티 소유의 AI 퍼스널리티
Dobby는 단지 불안감을 느끼는 것에 그치지 않습니다. 커뮤니티가 자신을 대표하는 AI를 만들고 소유할 수 있다는 증거입니다.Dobby의 뻔뻔한 말투가 최종 목표는 아닙니다. 완전히 사용자 지정 가능한 AI의 개념 증명입니다..커뮤니케이션 스타일뿐만 아니라 가치, 우선 순위, 전문 지식 등 특정 커뮤니티와 해당 커뮤니티의 고유한 요구 사항에 맞게 조정된 AI 어시스턴트를 상상해 보세요.의료 커뮤니티에는 의료 윤리와 프로토콜을 이해하면서 정밀하게 소통하는 AI가 있을 수 있습니다.게임 커뮤니티에는 자신이 좋아하는 게임의 메타를 알면서도 속어를 이해하는 AI가 있을 수 있습니다.
빅 테크 기업은 항상 가장 광범위하고 안전한 사용자를 위해 최적화를 하기 때문에 이러한 수준의 맞춤화가 중요합니다.그래야 합니다. 수십억 명의 사용자에게 서비스를 제공하고 있기 때문에 다른 사람의 기분을 상하게 할 여유가 없으니까요.하지만 커뮤니티는 멀리 떨어진 회의실보다 자신이 원하는 것이 무엇인지 더 잘 알고 있습니다.AI 성격의 진정한 혁신은 AI가 생각하고 행동하는 방식의 모든 차원에 걸친 다양한 커뮤니티 주도의 실험을 통해 이루어질 것입니다.
이것이 Dobby의 오픈 소스 접근 방식이 중요한 이유입니다. 모델이 진정으로 개방적이고 수정 가능하다면 커뮤니티는 모델의 가치를 반영하도록 모델을 만들 수 있습니다.몇몇 대기업에 의해 통제되면 기본적으로 해당 기업의 가치가 모든 사람의 가치가 됩니다.
건축업자에게 이것은 새로운 가능성을 열어줍니다.모든 AI 제품이 동일한 기업 비서처럼 들리는 대신 청중에 맞는 진정한 사용자 경험을 만들 수 있습니다.기능적 요구 사항을 손상시키지 않으면서 사용자의 문화를 이해하는 것처럼 느껴지는 AI 도구를 만들 수 있습니다.
Dobby는 커뮤니티가 실제로 원하는 가치, 커뮤니케이션 스타일, 특정 지식 요구 사항, 기술 역량 등 커뮤니티가 실제로 원하는 모든 것의 균형을 맞추는 AI를 구축할 수 있다는 것을 증명합니다.AI가 일상 생활에 점점 더 많이 통합됨에 따라 커뮤니티는 소수의 실리콘 밸리 회의실이 아니라 AI의 커뮤니케이션 방식을 통제해야 합니다.
