클라썸은 AI 기반 학습 플랫폼, 상담 시스템, 스킬 솔루션까지 조직과 사람의 성장을 돕는 세 가지 서비스를 중심으로 빠르게 성장하고 있습니다.
오늘 소개할 주인공, Backend Engineer, Windy(김상근 님)은 클라썸 서비스의 백엔드 아키텍처를 담당하며, 동시에 최신 AI 연구를 직접 서비스에 반영하는 역할을 하고 있습니다. Contextual Retrieval, LLM 필터링 등 최신 기술과 AI 모델을 직접 개발해 서비스에 적용하는 등, 클라썸에서만 경험할 수 있는 특별한 경험을 쌓아가고 있습니다.
최신 AI 기술을 서비스에 적용하며 고객에게 가치를 전달하고 있는 Windy의 이야기를 지금 만나보세요.
자기소개 부탁드립니다.
저는 클라썸에서 백엔드 엔지니어로 일하고 있는 김상근이며 Windy라는 닉네임을 사용하고 있습니다. 서강대 컴퓨터공학과 학부와 데이터 공학 석사를 졸업했고 대학 생활에서는 ACM-ICPC 국제 대학생 프로그래밍 대회에 참가해 좋은 결과를 얻었던 것이 가장 기억에 남습니다. 졸업 이후에는 의료 AI를 만드는 회사의 첫 번째 개발자로 합류해 회사의 성장과 상장을 이끌었고, 클라썸에 합류하게 되었습니다.
클라썸에서는 전반적인 백엔드 업무를 담당하고 있으며, 최근에는 AI 기술을 클라썸 서비스에 어떻게 접목시킬지에 대해 가장 많이 고민하고 있습니다. 동시에 LLM을 활용한 업무 효율화를 위해서도 노력하고 있습니다.
클라썸에 합류하게 된 계기는 무엇이었나요.
이전 회사 재직 당시, 클라썸 대표인 Lynn과 Jin을 만나게 되었고, 클라썸이 풀고 있는 문제가 명확하고 난이도가 상당히 높다는 것에서 흥미를 느꼈습니다. 다만, 당시에는 이직 생각이 없어서 바로 합류를 결정하지는 않았습니다. 시간이 흘러, 이전 직장에서의 어려운 문제를 어느 정도 풀어냈다는 생각이 들었고 다음 스텝으로 클라썸의 문제를 풀어보고 싶어 합류를 결정하게 되었습니다. 클라썸의 성장 곡선 기울기를 더 가파르게 만들고 싶었습니다.
현재 담당하고 계시는 업무를 소개해 주세요.
클라썸은 세 가지 서비스-학습 플랫폼, AI 상담 시스템, 스킬 솔루션을 발전시키고 있습니다. 백엔드 파트에서는 이 세 가지 서비스를 효율적으로 발전시키기 위한 노력을 하고 있습니다. 파편화를 막기 위해 공통 모듈을 만들고 로직을 통일하여 구현하는 등의 방법을 시도하고 있습니다.
또한 AI 기술을 서비스에 반영하기 위한 일도 하고 있으며 최근에는 Tech 챕터를 넘어 Product Division 구성원 모두가 AI와 친숙해질 수 있도록 하는 것이 주 관심사입니다.
각 서비스에서 AI는 어떤 역할을 하나요.
클라썸 서비스의 AI는 대학과 기업의 효율성을 높이는 역할을 하고 있습니다.
먼저 학습 플랫폼의 AI는 사용자에게 유사한 질문을 찾아주거나, 업로드된 자료를 기반으로 답변을 해줍니다. 학생은 빠르게 질문을 해결할 수 있고, 교수님은 반복되는 질문에 매번 답하지 않아도 된다는 장점이 있습니다. OpenAI가 ChatGPT를 출시하기 전부터 존재했던 AI로 클라썸의 AI 역사가 시작된 기능이라고 할 수 있습니다.
상담 시스템인 커넥트에는 문맥을 기반으로 질문에 대한 답변을 해주는 AI가 적용되어 있습니다. 사전에 규정을 입력해 두면 AI가 규정 내에서 답변해 주기 때문에 특히 대학 교직원분들의 상담 업무 부담을 줄여주고 있습니다. 문서 레이아웃 분석, RAG, Contextual Retrieval, 질문 의도 분류, LLM Reranker 등 AI 답변 성능을 크게 높여줄 수 있는 다양한 기술이 반영되어 있고, 실제 서비스를 만든 제가 직접 써봐도 성능이 정말 좋습니다.
마지막으로 스킬 솔루션의 AI는 자동화를 담당하고 있습니다. 기업에서는 구성원을 평가할 때 기준에 맞는 문항을 만들어 평가하고 보고서를 만들고 피드백과 성장 경로를 추천해 주는 모든 과정을 사람이 직접 해야 했습니다. 하지만 LLM의 등장으로 자동화가 가능해졌고 수천 명의 진단 결과를 단시간 내에 일관성 있게 처리할 수 있게 되었습니다. 클라썸이 현재 도전적으로 접근하고 있는 시장이고 저도 세계적으로 크게 화두가 될 서비스라고 확신하고 있습니다.
클라썸 AI에는 어떤 기술이 적용돼 있나요.
초기에는 기술적 한계와 할루시네이션 등 아직 풀리지 않았던 문제가 많았습니다. 그래서 당시에는 여러 테크닉적인 요소로 성능을 올렸습니다. 예를 들면 긴 문맥에서 중간에 위치한 정보를 활용하지 못한다는 Lost in the Middle 연구 결과가 있었고, 이를 해결하기 위해 RAG를 구성할 때, 중요도 높은 문서들을 앞과 뒤에 배치하도록 재정렬하여 답변 성능을 높였습니다.
하지만 성능이 높아진 최근의 LLM은 이와 같은 기술적 조치가 없어도 충분히 답변을 잘해줍니다. 그래서 최근에는 검색 성능을 올리는데 집중하고 있습니다. 주요 기술로는 Anthropic이 제안한 Contextual Retrieval을 도입해 각 청크에 전체 문맥을 고려한 맥락 정보를 추가하여 검색 성능을 높이고, 더 많은 문서를 검색하기 위해 기존의 Reranker 대신 LLM Reranker를 활용한 보다 정교한 검색 결과 리랭킹을 도입했습니다.
이 외에도 AI 발전 속도가 매우 빠른 만큼 최신 논문을 읽고 클라썸 테스트 셋으로 직접 실험해 보며, 성과가 좋은 기술은 즉시 서비스에 반영하고 있습니다. 이런 빠른 적용이 가능한 것이 클라썸만의 장점이라고 생각합니다.
특히 기억에 남는 문제 해결 사례가 있으신가요.
초기 스킬 솔루션의 기능 개발을 위해 알고리즘 테크닉을 활용한 것을 소개해 드리고 싶습니다. 스킬 솔루션에는 진단의 결과에 따라 각 임직원에게 교육 콘텐츠를 추천하는 기능이 있습니다. 처음 해당 기능을 개발할 때, LLM의 단순한 few-shot learning으로도 추천을 잘해 줄 거라고 예상했지만, 100점 만점 중 9점의 점수로 예상보다 정말 낮은 결과가 나왔습니다.
이 문제를 해결하기 위해 우선 여러 작은 문제로 나눴습니다.
①프롬프트 길이에 따른 LLM 성능 문제 ②LLM 모델 크기에 따른 성능 문제 ③LLM 비용 문제
첫 번째 문제인 프롬프트 길이에 따른 성능 저하를 해결하기 위해 접근 방식을 바꿨습니다. 한 프롬프트에 많은 데이터를 넣는 대신, 진단과 교육과정의 모든 쌍을 만들어 여러 개의 프롬프트로 나눴습니다. 이후 LLM을 병렬로 호출하여 처리 속도와 정확도를 모두 개선했습니다. 또, 당시 공개된 Speculative RAG에 착안하여 파인 튜닝한 작은 모델로 추천 매핑 초안을 만들고, 큰 모델로 한 번 더 추천 매핑을 하는 방식으로 성능을 크게 올렸습니다. 물론 중간에 생략된 전처리 작업과 후처리 작업이 있었지만, 문제를 세분화하여 테크닉적으로 풀어나갔던, 기억에 남는 사례입니다.
Tech 챕터는 AI를 어떻게 활용하고 있나요.
클라썸 Tech 챕터는 개발자 1명에게 월 $250(약 34만 원), 1년에 400만 원 상당의 AI 도구 비용을 지원하는 등 AI 활용이 일상화되어 있습니다. 파트별로 AI 활용 사례를 활발하게 공유하고, Tech 챕터 전체가 알면 좋을 내용들은 위클리에서도 공유합니다. 예를 들어 Claude Code SubAgent가 출시되었을 때, 실제로 사용해 보고 그 경험과 활용법을 팀에 전파하기도 했고 프롬프트 엔지니어링 팁이나 효과적인 AI 활용 룰도 지속적으로 공유하며 팀 전체의 AI 활용 역량을 높여가고 있습니다.
이를 통해 실질적인 성과들이 나타나고 있습니다. AI를 활용해 백엔드 개발자도 백오피스 웹 개발이 가능해져 필요한 자동화 도구를 직접 제작하고 있습니다. 또한 사내 MCP(Model Context Protocol) 서버를 운영하여 PM이나 디자이너가 백엔드 개발자의 도움 없이도 필요한 데이터를 직접 조회합니다. 그 결과 디자이너는 사용자 행동 데이터를 직접 분석해 데이터 기반 디자인을 수행하고, PM은 프로덕트 지표를 실시간으로 확인하며 더 빠른 의사결정을 내리며 개발자는 반복적인 데이터 추출 요청에서 벗어나 개발 자체에 더 집중하고 있습니다.
Tech 챕터의 문화를 소개해 주세요.
우선, 코드 리뷰 문화를 소개하고 싶습니다. 새로운 코드를 작성하면 한 명 이상의 개발자의 승인이 있어야 배포할 수 있습니다. 이 과정에서 코드 컨텍스트를 공유하는 것은 물론, 팀원 간 소통이 매우 활발하게 이루어지게 됩니다. 코드 리뷰를 통해 서로 코드의 문제점을 짚어주기도 하고, 편안한 분위기에서 개선 아이디어를 나누며 피드백을 주고받습니다.
또한 파트별 위클리 미팅 문화가 잘 자리 잡혀 있습니다. 프로젝트 전체나 Tech 챕터 전반에 도입하면 좋을 기술이나 구조가 있다면, 파트별 위클리에서 먼저 논의하고 함께 검토합니다. 이를 통해 새로운 기술 도입이나 구조 개선을 체계적으로 진행하며, 모든 구성원의 의견을 반영할 수 있는 협업 문화를 만들어가고 있습니다.
Tech 챕터는 어떤 성장 문화를 가지고 있나요.
크게 두 가지를 소개해 드리겠습니다. 첫 번째는 Tech 챕터의 온보딩 시스템입니다. 저는 다양한 개발 경험이 있었기 때문에 '나에게 온보딩이 중요할까?'라는 의문이 있었습니다. 하지만 클라썸에 와서 직접 체계적인 온보딩 시스템을 경험하며 정말 놀랄 수밖에 없었습니다. 경험한 회사 중 가장 체계적인 온보딩 시스템을 가지고 있었기 때문입니다. 온보딩을 따라가기만 해도 클라썸의 데이터 구조를 모두 파악할 수 있을 정도였습니다. 집중적이고 체계적으로 클라썸에 녹아들 수 있는 기회이며, 특히 신입 개발자의 경우 온보딩만으로도 큰 성장을 이룰 수 있을 거라고 생각합니다.
두 번째는 Monthly Growth Day(이하 MGD)입니다. MGD는 Tech 챕터 전체가 반나절 또는 하루를 온전히 성장에 투자하는 날입니다. 매번 다른 주제로 진행되며, 업무에 즉각적으로 도움이 되거나 실무에 사용하고 있지만 팀원에게 전파하고 싶은 기술을 서로 실습을 하면서 공유하는 시간입니다. 최근에는 MCP(Model Context Protocol) 스터디를 진행했습니다. 최신 기술을 접하고 개발과 실제 서비스에 적용해 볼 수 있기에 정말 소중한 시간이며, 가장 자랑하고 싶은 Tech 챕터의 성장 문화입니다.
AI가 급격히 발전하는 상황에서 클라썸에서 성장한다는 것은 어떤 의미인가요?
AI가 전 세계의 흐름을 주도하는 지금, 그 트렌드를 최대한 빠르게 따라갈 수 있는 AI 스타트업에서 일하는 것 자체가 큰 행운입니다. 스타트업에 합류하는 개발자는 개인의 성장 속도와 회사의 성장 속도를 일치시키기 위해 노력해야 한다고 생각합니다. 보통은 개인보다 회사의 성장이 빠르기 때문이죠. 클라썸은 제가 합류한 이후로 정말 빠르게 성장해 왔고, LLM의 발전과 함께 이 성장은 더 가속화되고 있습니다. 저 역시 이 속도에 뒤처지지 않도록 앞으로도 많은 노력을 기울일 것입니다.
클라썸에 지원을 고민하는 분들께 한마디 부탁드립니다.
평소 주변 사람들에게 클라썸 Tech 챕터 자랑을 참 많이 하는데, 이번 기회에 마음껏 자랑해 보겠습니다. 우선, 클라썸 Tech 챕터는 보고 배울 팀원이 많습니다. 모두가 개발을 잘하고 소통이 원활합니다. 서로를 통해 성장할 수 있다는 것이 가장 큰 장점입니다.
또한 실제로 기여할 수 있는 바가 굉장히 많습니다. Tech 챕터는 매일 정말 바쁘게 돌아갑니다. 새로운 기능을 개발하고 배포하고 테스트한 뒤, 또 새로운 문제를 발굴하는 사이클이 계속됩니다. 개발자가 성장하는 데에는 많은 문제를 풀어보고 어떻게 풀었는지 회고하는 것이 중요한데, 이런 과정이 쌓이다 보면 단시간에 큰 성장이 가능하다고 생각합니다.
마지막으로, 최신 연구를 접하고 직접 코드에 적용하며 LLM을 적극적으로 활용하는 기회는 클라썸 아니면 하기 힘든 경험입니다. 클라썸에 합류한다면 다양한 개발 경험과 함께 어려운 문제를 직접 해결하며 성장한다고 자신 있게 말할 수 있습니다.
클라썸은 AI 기술 발전을 적극적으로 활용하며 대학과 기업의 문제를 해결하는 서비스를 만들고 있습니다. 최신 기술을 서비스에 반영하고, 체계적인 성장 문화 속에서 동료들과 함께 발전하며, AI 기술로 실질적인 변화를 만들고 싶다면 클라썸에서 그 가능성을 확인해 보세요.