LLM을 사용하는 프로젝트를 하며 드는 생각 기록용

어지간하면 서버도 파이썬 쓰는게 나음(이쪽에서 쓰기가 젤 깔끔함)

자바계열이나 이런거로 스프링ai 붙여서 쓰던가 깡으로 쓸수있긴한데,아직까진 쓸수있다 정도임

돌아는 가긴하는데 뭔가뭔가임

현재 생각한 로직이나 순서에서 필요한 라이브러리가 파이썬에 있을 확률이 많이 높음

 

rag를 사용하는거 자체는 어렵지않은데,중요한건 데이터를 어떻게 구할건지와(최신데이터가 필요할경우는 지속적으로 데이터를 구해넣어야함) 임베딩모델을 어떻게할건지임