DEVOCEAN OpenLab 스터디 - LLMOps 지원 & 킥오프 후기
AI 중심의 오픈 스터디
DEVOCEAN OpenLab?
LLMOps에 지원하다
이 오픈랩 스터디의 모집 공고를 보는 순간, ‘바로 이거다’라고 생각했습니다. 특히, LLMOps 스터디는 제가 하고 싶었던 것과 딱 맞았기에 마치 저를 위해 준비된 것처럼 보였습니다.
지원서 내용
저는 다음의 내용으로 지원서를 작성하였습니다.
현재 하고 있는 일
- 업무
- 모빌리티 스타트업에서 AI 기반 여행 일정표 제작 서비스인 ‘플래너’에서 핵심 알고리즘 개발을 담당
- 플래너 팀의 팀장으로서, 회의 진행과 프로젝트 관리를 책임지며 팀을 리딩
- 관심분야
- Large Language Models(LLM)
- 프롬프트 엔지니어링
- 사용자 경험 향상
지원 동기 요약
- 나
- 개인적으로 챗봇을 개발해 본 경험이 있음
- 실제 비즈니스에 적용할 만한 챗봇 개발이 어려웠음:
- 복잡한 사용자 질문에 정확하고 일관된 대응이 필요
- 언어적 뉘앙스와 문맥을 정확히 해석해야 함
- 답변의 질을 지속적으로 모니터링 및 평가하는 시스템 필요
- 전체 파이프라인 구축 능력이 부족함
- 원하는 것
- LLMOps 스터디를 통한 해결책 및 전문가 지식 습득 기대
- 스터디를 통한 챗봇 솔루션 성능 개선 및 사용자 경험 향상 목표
- LLMOps 분야의 전문가로 성장하고 조직 내 AI 프로젝트를 성공적으로 이끌고 싶음
- LLMOps 스터디에서 열정적인 동료들과 교류 및 함께 성장하길 기대
스터디 킥오프
13명의 참가자와 외부 구성원 3명, AI Fellowship 프로그램에 참여할 대학생들이 이번 스터디에 참여하게 되었습니다. 스터디 참가자들은 대학생부터 현직 전문가에 이르기까지 다양하며, 각자의 전문 분야가 있지만 공통적으로 챗봇 개발에 대한 큰 열정을 가지고 있다는 것을 느꼈습니다.
스터디 목표
LLMOps 스터디의 주요 목표는 다음과 같습니다:
- Better RAG 기술을 적용한 Devot 챗봇의 런칭 준비
- LLM 평가 및 모니터링 체계의 구축
Devot은 Devocean에서 개발한 챗봇으로, 현재 베타 테스트(CBT) 단계에 있습니다. 스터디를 통해 Devot의 성능을 개선하고, 평가 및 모니터링 시스템을 개발하는 것이 주된 목적입니다.
다음 모임
스터디의 첫 모임은 2024년 4월 25일 목요일입니다. 이 날 각자 AI 챗봇 관련 업무에 대해 소개하는 발표를 하기로 하였습니다. 멘토님은 이 자료를 바탕으로 LLMOps의 End-to-End(E2E) 파이프라인 구축을 위한 역할 및 책임(R&R)을 수립할 계획이라고 하셨습니다. 구성원의 특성에 맞추어 스터디 계획을 조정하려는 멘토님의 배려에 큰 인상을 받았던 순간이었습니다.
소감
우선, 정말 참여하고 싶었던 스터디에 참가할 수 있게 되어 매우 기뻤습니다. 합격 문자를 받았을 때는 너무 기뻐 주위 사람들에게 전하면서 방방 뛰기도 했습니다.
이번 스터디에는 굉장하신 분들이 많이 모여있어서 긴장도 되고 기대가 됩니다. 저는 전문가가 아니기 때문에 그만큼 더 열심히 공부하고, 공부한 내용을 나누어 좋은 영향력을 전파하고 싶습니다. 이 생각을 3개월 동안 잊지 않고 끝까지 최선을 다하겠습니다.
읽어주셔서 감사합니다.