목차
OpenAI가 이번에 GPT-4o mini 모델을 공개했습니다.
GPT-4o mini는 MMLU에서 82%의 점수를 기록하며, 여러 평가에서 GPT-3.5 Turbo보다 더 나은 성능을 보여주었습니다. GPT-4o mini 비용은 백만 입력 토큰 당 15센트, 백만 출력 토큰 당 60센트로, 이전 모델들보다 훨씬 저렴합니다.
그럼 실제 사용해본 후기로 4o 미니랑 4버전이랑 금액을 비교해봅시다.
GPT-4o 모델보다 얼마나 더 저렴할까?
GPT-4o mini 비용은 GPT-4o 모델에 비해 약 10배 더 저렴합니다. GPT-4o mini의 가격은 백만 입력 토큰 당 15센트, 백만 출력 토큰 당 60센트로, 이전 최첨단 모델보다 훨씬 저렴합니다.
가성비 갑 GPT-4o mini 비용
GPT-4o mini는 낮은 비용과 빠른 응답 시간으로 다양한 작업을 수행할 수 있습니다.
예를 들어, 여러 번의 모델 호출을 연결하거나 동시에 처리하는 애플리케이션, 많은 양의 정보를 모델에 전달하는 애플리케이션, 빠르고 실시간으로 텍스트 응답을 제공하는 고객 지원 챗봇 등에 사용할 수 있습니다.
현재 이 모델은 텍스트와 이미지 API를 지원하며, 앞으로는 텍스트, 이미지, 비디오, 오디오 입력 및 출력을 지원할 예정입니다.
모델은 최대 128K 토큰의 컨텍스트를 지원하며, 요청 당 최대 16K 출력 토큰을 처리할 수 있습니다. 또한 2023년 10월까지의 최신 정보를 반영하고 있습니다.
✅ 이번 GPT-4o mini는 비로그인 상태로도 사용해볼 수 있습니다.
하루 종일 사용한 후기
💌 이 소제목 부분만 말투를 조금 편하게 타이핑하겠습니다!
이번에 GPT-4o-mini를 썼어야했는데 실수로 GPT-4를 써버린 나. 그 날 하루 5달러가 넘어서 잠깐 API 사용이 중지됐었다.
하지만… 그래서 이렇게 비교하는 내용을 추가할 수 있게 됐다. 흠흠.
우선 위가 GPT-4, 아래가 GPT-4o-mini의 토큰 사용 수인데 GPT-4는 10만 토큰 정도를 사용했다. 하지만 GPT-4o-mini로는 60만 토큰을 넘겼다. 그럼 비용은 얼마가 나왔을까?
GPT-4는 5.32달러가 나왔고, GPT-4o-mini는 0.29달러가 나왔다. 말도 안돼!
비교할 겸 일부러 사용량 확인 한 하고 며칠동안 펑펑 썼는데(24시간 돌렸음) 이 정도로 금액 차이가 나고, mini 모델이 이만큼이나 저렴하면 정말 걱정없이 계속 써도 될 것 같다.
토큰 사용량이 6배 이상인데 금액 차이는 10배 이상 저렴한… 말이 안되는 상황.
다만 모델마다 잘 하는 분야가 다르겠지만 내가 하는 작업으로는 mini 모델도 충분하니…
후기는 이 정도로 마무리!
궁금한 점이 있다면 댓글을 남겨주세요.
GPT-3.5 Turbo보다 뛰어난 성능
GPT-4o mini는 GPT-3.5 Turbo와 다른 소형 모델들을 능가하는 성능을 보여주며, 텍스트 지능 및 멀티모달 추론에서 우수한 결과를 나타냅니다. 또한 GPT-4o와 동일한 범위의 언어를 지원하여, 다양한 언어를 사용하는 사용자들에게도 유용합니다. 이 모델은 외부 시스템과 상호작용할 수 있는 애플리케이션을 구축하는 데 유용한 함수 호출 성능도 뛰어납니다.
주요 벤치마크 성능
- 추론 작업: 텍스트와 이미지를 포함한 추론 작업에서 뛰어난 성능을 보여줍니다.
- 수학 및 코딩 능력: 수학적 추론 및 코딩 작업에서도 우수한 성과를 냅니다.
- 멀티모달 추론: 멀티모달 추론 평가에서도 강력한 성능을 나타냅니다.
내장된 안전 조치
GPT-4o mini는 안전 조치가 내장되어 있으며, 개발 과정에서 철저히 검토되었습니다. 사전 훈련 단계에서는 혐오 발언, 성인 콘텐츠, 스팸 등을 필터링하고, 사후 훈련 단계에서는 인간 피드백을 통해 모델의 행동을 우리의 정책에 맞게 조정합니다. 이 모델은 최신 안전 기술을 적용하여, 모델의 응답이 더 신뢰할 수 있고 안전하게 사용될 수 있도록 합니다.
사용 및 가격
GPT-4o mini는 이제 텍스트 및 이미지 모델로 Assistants API, Chat Completions API, Batch API에서 사용할 수 있습니다. 개발자들은 백만 입력 토큰 당 15센트, 백만 출력 토큰 당 60센트를 지불하게 됩니다.
또한, ChatGPT의 무료, Plus, Team 사용자들은 2024년 7월 18일부터 GPT-4o mini를 사용할 수 있으며, Enterprise 사용자들도 다음 주부터 액세스할 수 있습니다.
결론
최근 몇 년간 AI 기술이 크게 발전하면서 이번에 출시된 GPT-4o mini 비용도 상당히 절감되었습니다. 예를 들어, GPT-4o mini 비용은 2022년에 도입된 text-davinci-003보다 99% 감소했습니다.
GPT-4o mini는 AI 응용 프로그램을 더 효율적이고 저렴하게 구축하고 확장할 수 있는 길을 열어줄 것입니다.
자주 묻는 질문 (FAQ)
Q1: GPT-4o mini의 주요 장점은 무엇인가요?
A1: GPT-4o mini 비용 효율성과 성능에서 뛰어나며, 다양한 응용 프로그램에 적합한 모델입니다. 낮은 비용으로 고성능의 AI 서비스를 제공할 수 있습니다.
Q2: GPT-4o mini는 어떤 작업에 사용할 수 있나요?
A2: GPT-4o mini는 여러 모델 호출, 대량의 컨텍스트 처리, 실시간 텍스트 응답 등 다양한 작업에 사용할 수 있습니다.
Q3: GPT-4o mini의 가격은 어떻게 되나요?
A3: GPT-4o mini는 백만 입력 토큰 당 15센트, 백만 출력 토큰 당 60센트로 매우 저렴합니다.
Q4: GPT-4o mini는 언제부터 사용할 수 있나요?
A4: GPT-4o mini는 현재 사용할 수 있으며, ChatGPT의 무료, Plus, Team 사용자들과 Enterprise 사용자들이 액세스할 수 있습니다.
Q5: GPT-4o mini의 안전 조치는 어떻게 되나요?
A5: GPT-4o mini는 안전 조치가 내장되어 있으며, 철저한 검토 과정을 거쳐 신뢰할 수 있는 응답을 제공합니다.