Open AI Day 09 : 개발자들을 위한 선물 o1 API, RealtimeAPI, Preference Fine-Tuning, Go,JAVA SDK 공개!

https://youtu.be/14leJ1fg4Pw?si=sx9FcKoBoPt7TCkn

 

일반 유저를 위한 소식만 계속 되다가 개발자 관련 소식을 "크리스마스 선물"처럼 공개했다 ㅋㅋ

조코딩님 같은 분들이 o1 API공개되면 비트코인 자동 투자 봇에 적용해보고 투자 성능을 공유하신다고 했는데 찾아봐야겠다.

나는 공개된 내용중 Preference Fine Tuning에 관심이 갔는데 이유는 블로그 글을 기반으로 팟캐스트를 제작하는 파이프라인 구축을 테스트하면서, 내 톤과 결을 담은 대본 제작에 활용할 수 있다고 생각해서이다. 아래는 PFT의 특징 및 이점. 일단 기본 파이프라인 구축 → PFT를 사용한 톤/결 조정을 진행해볼 예정이다.

Preference Fine-Tuning (PFT)

• 작동 방식: PFT는 특정 작업에서 "올바른 정답"이 아니라, 선호도를 반영하는 데이터를 사용합니다. 여러 출력 중 사용자나 팀이 더 선호하는 결과를 선택하거나 랭킹 데이터를 활용하여 모델의 출력 스타일을 조정합니다.
• 장점:
  • 명확한 정답이 없거나 정답이 다양할 수 있는 작업에서 적합합니다.
  • 사용자의 취향에 따라 모델의 응답을 조정할 수 있습니다.
  • 데이터 수집이 비교적 간단하며, 사용자 피드백 기반으로 개선이 가능합니다.
• 제한점: 선호도를 수집하고 랭킹을 평가하는 과정에서 주관성이 개입될 수 있습니다.

예시:

1. 창의적인 글쓰기 스타일 조정:
   • 사용자가 명령형 문장을 좋아한다면, "상품 사용 방법을 제시하세요"라는 요청에 대해 보다 명령적인 톤("지금 이 방법을 사용해보세요")으로 응답하도록 조정.
   • 또는 부드럽고 설명적인 톤("이 방법을 사용해보시는 것이 좋습니다")으로 스타일 변경.
2. 마케팅 텍스트 생성:
   • 같은 광고 문구를 여러 스타일로 생성한 후, 마케팅 팀이 선호하는 스타일(친근하거나, 전문적이거나 등)을 기준으로 모델을 조정.
3. 추천 시스템 개선:
   • 음식 배달 앱에서 사용자 피드백을 수집해, 같은 음식에 대해 더 선호되는 설명(“건강식” vs “매운맛 강조”)을 기준으로 조정.
4. 다양한 언어 톤 조정:
   • 포멀한 언어를 선호하는 기업용 사용자와 캐주얼한 언어를 선호하는 개인 사용자에 맞게 응답 스타일을 변화.

---

언제 PFT를 사용하는 것이 적합한가?

• 작업의 정답이 명확하지 않고, 출력이 다양할 수 있는 경우.
• 데이터 라벨링에 시간과 비용을 최소화하고 싶을 때.
• 사용자 피드백을 주기적으로 반영해 모델을 지속적으로 개선하고 싶을 때.
• 응답 스타일, 톤, 우선순위 등 주관적 요소를 조정해야 할 때.

PFT는 특히 사용자 경험(UX)을 개선하고, 개인화된 서비스를 제공하는 데 유용합니다.

 

 

아래는 공개된 내용 핵심 사항 요약.

 

OpenAI o1 모델 출시

• 고급 추론 모델: OpenAI o1은 복잡한 다단계 작업을 높은 정확도로 처리하도록 설계된 모델로, 과학, 제조, 코딩 등 시각적 입력이 중요한 분야에서 활용될 수 있습니다.
• 주요 기능: 함수 호출, 개발자 메시지, 구조화된 출력, 시각적 입력 처리, 낮은 지연 시간 등의 기능을 지원합니다.
• 성능 향상: 이전 모델인 o1-preview에 비해 다양한 평가 지표에서 성능이 향상되었습니다.

실시간 API 개선

• WebRTC 지원: 실시간 음성 애플리케이션 개발을 간소화하기 위해 WebRTC 통합을 도입했습니다.
• 가격 인하: GPT-4o 오디오 처리 비용을 60% 인하하고, GPT-4o mini에 대한 지원을 추가하여 비용 효율성을 높였습니다.

Preference Fine-Tuning 도입

• 모델 맞춤화: 사용자와 개발자의 선호도에 따라 모델을 쉽게 조정할 수 있는 새로운 기법을 도입했습니다.

새로운 Go 및 Java SDK 베타 출시

• 개발자 지원 확대: Go와 Java 언어를 사용하는 개발자들을 위한 SDK를 베타 버전으로 출시하여, 다양한 언어 환경에서 OpenAI의 기능을 활용할 수 있도록 지원합니다.

이러한 업데이트는 개발자들이 AI를 활용한 애플리케이션을 더욱 효율적이고 유연하게 개발할 수 있도록 지원하며, 성능과 비용 측면에서의 이점을 제공합니다.

 

 

출처 : 

https://openai.com/index/o1-and-new-tools-for-developers/