아카이브 목록

LLM API로 설계하는 지능형 웹

LLM API로 설계하는 지능형 웹

세션 소개

OpenAI Responses API와 Anthropic Messages API의 기본 구조를 비교하고, LLM을 웹 서비스의 기능으로 연결하는 방법을 익히는 4주 세션입니다. Python으로 모델을 호출하는 것부터 시작해 구조화된 응답, 도구 호출, 검색 증강 생성(RAG)을 단계적으로 구현합니다.

마지막 주에는 앞서 만든 기능을 Streamlit 화면에 연결합니다. 하나의 예제 프로젝트를 매주 확장하기 때문에 각 기능이 전체 서비스 안에서 어떤 역할을 하는지 함께 확인할 수 있습니다.

이런 분께 추천합니다

  • Python의 함수, 리스트·딕셔너리와 패키지 설치를 사용해 본 분
  • REST API와 JSON 요청·응답의 기본 구조를 알고 있거나 예제를 따라 확인할 수 있는 분
  • 생성형 AI 기능을 서비스에 적용해 보고 싶은 분
  • 매주 실습 코드를 직접 실행하고 Git에 기록할 수 있는 분

커리큘럼

주차주제내용
1주차LLM API 기본API 키를 환경 변수로 관리하고 OpenAI·Anthropic API를 각각 호출합니다. 시스템 지시와 사용자 입력을 구분하고 응답 본문, 토큰 사용량, 중단 이유를 확인합니다.
2주차구조화된 응답과 도구 호출JSON 스키마로 응답 형식을 고정하고 읽기 전용 도구를 연결합니다. 도구 입력 검증, 허용 목록, 타임아웃과 오류 처리 방법을 실습합니다.
3주차RAG 검색문서를 작은 단위로 나누고 임베딩한 뒤 관련 문단을 검색합니다. 검색 결과를 모델에 전달하고 답변과 함께 출처를 표시합니다.
4주차웹 앱 통합RAG와 도구 호출을 하나의 흐름으로 연결해 Streamlit 화면을 만듭니다. 오류·비용·지연 로그를 확인하고 실행 방법을 README에 정리한 뒤 결과를 시연합니다.

진행 방식

  • 세션 전에는 해당 주차의 공식 문서와 예제 코드를 짧게 읽습니다.
  • 세션에서는 핵심 개념과 요청·응답 로그를 확인한 뒤 직접 코드를 작성합니다.
  • 실습 결과는 하나의 Git 저장소에 이어서 기록하고, 막힌 부분은 코드와 오류 메시지를 기준으로 함께 해결합니다.
  • 마지막 주에는 완성한 기능의 동작 흐름과 구현하면서 판단한 내용을 짧게 공유합니다.

준비 사항

  • 노트북, Git·GitHub 계정, Python 3.11 이상의 개발 환경
  • OpenAI 또는 Anthropic API를 호출할 수 있는 계정과 소액의 사용 크레딧
  • RAG 실습에 사용할 PDF 또는 Markdown 문서 3\~5개

API 키는 브라우저 코드나 Git 저장소에 넣지 않습니다. .env 파일은 커밋 대상에서 제외하고, 키가 노출되면 즉시 폐기한 뒤 새로 발급합니다.

참고 자료

SDK와 모델 이름은 바뀔 수 있으므로 실습 자료와 다른 부분이 있으면 공식 문서의 최신 예제를 우선합니다.