워크플로우 플러그인 사용하기

플러그인

  • 에이전트 > 워크플로우 상세 화면의 플러그인 탭에서 제공됩니다.

  • 플러그인을 활성화할 경우, 사용자 페이지 채팅 화면에서 사용자가 임의 파일을 업로드하여 파일 기반 대화를 수행할 수 있습니다.

    • 참고. 암호화된 파일들은 사용할수 없습니다.

  • 플러그인을 활용한 파일 기반 대화는 멀티 모달 대화이기 때문에 워크플로우를 설정해줘야 합니다.

워크플로우 편집

1.1 리비전 정보 설정

  • 리비전 정보 탭을 클릭합니다.

  • 배포 이미지와 인스턴스 타입, 복제본을 선택합니다. 이는 워크플로우가 실행될 환경을 결정합니다. (리비전 정보 탭에서 배포 이미지와 인스턴스 타입을 선택할 수 있습니다. 이 설정은 워크플로우의 실행 환경을 정의합니다.)

    • 배포 이미지 : llmops-workflow-api:latest

    • 인스턴스 타입: smicro (1 CPU Core, 1 Gb Memory)

    • 복제본: 1

1.2 세부 설정

  • 하단의 Flowise Step 추가 버튼을 클릭합니다. Flowise 창에서 세부 설정을 조정합니다. 이번엔 노드 구성에 대해서 설명합니다.

  • Prompt Template(1): Template를 입력합니다.

    • 이 예시에서는 아래 값을 적용하였습니다.

당신은 친절한 어시스턴트입니다. 사용자 질문에 답변해주세요.

###사용자 질문###
{question}

  • Prompt Template(2): Format Prompt Values 버튼을 선택합니다.

    • 이 예시에서는 아래 값을 적용하였습니다.

      • + 버튼을 클릭하여 key name 값을 context과 question을 입력하고 체크 버튼을 클릭합니다.

      • 입력한 keyname의 📝버튼을 클릭하여 variable을 선택해줍니다. question은 question을 선택합니다.(context는 빈값으로 두었습니다.)

  • ChatMNC: 사용할 LLM(Large Language Model)과 Max Token, Temperature을 선택합니다. 이 모델은 워크플로우에서 텍스트 생성에 사용됩니다.

    • 이 예시에서는 [삼성 디스플레이] 멀티 모달 학습 후 서빙 테스트, Max Token 512, Temperature 0.9를 적용하였습니다.

  • LLM Chain: Language Model과 Prompt에 노드들을 연결해줍니다.

1.3 저장

모든 설정을 마친 후 리비전 상세 섹션에 있는 저장 버튼을 클릭하여 워크플로우 설정을 저장합니다.

플러그인 설정

  1. 에이전트 > 워크플로우 > 워크플로우 상세 > 플러그인 탭으로 진입합니다.

  1. 파일 기반 대화 플러그인 더보기 버튼을 클릭하여 설정 영역을 펼칩니다. 필요한 항목들을 입력 및 설정합니다.

    1. ​플러그인 활성화 및 유지 기간 설정

      1. 활성화: 플러그인 기능을 활성화/비활성화를 ON/OFF할 수 있습니다. ON을 해야지만 파일 업로드 기능을 사용할 수 있습니다.

      2. 이미지 업로드: 이미지 업로드를 허용할 것인지에 대한 ON/OFF할 수 있습니다. ON을 해야지만 이미지 업로드 기능을 사용할 수 있습니다.

      3. 유지 기간: 업로드된 파일을 유지할 기간을 설정합니다.

    2. 임베딩 서빙 설정

      1. 서빙: 임베딩 서빙을 선택합니다.

      2. 배치 크기: 한번에 처리할 데이터의 배치 크기를 설정합니다.

      3. 전처리기: 선택한 파일을 처리할 모듈을 선택합니다.

      4. 파라미터: 데이터 처리 설정 값을 입력합니다. 선택한 전처리기 모듈의 파라미터와 동일한 값을 입력해야 합니다.

    3. 검색 설정

      1. Top K: 검색 결과에서 반환할 최대 개수를 설정합니다.

      2. Alpha: 검색 결과의 가중치를 조정하는 값입니다.

      3. 메타 데이터 키: 파일에서 추출할 메타데이터 키를 설정합니다.

      4. 텍스트 키: 검색할 주요 텍스트 데이터를 지정합니다.

      5. 검색 필터: 검색 시 사용할 필터 조건을 입력합니다.

    4. 설정 리셋 및 저장

      1. 리셋 버튼: 설정한 항목들의 값을 리셋합니다.

      2. 저장 버튼: 설정 및 수정한 값들을 저장합니다. 수정 후 저장 시, 사용자 페이지에 바로 반영 가능합니다.

파일/이미지 기반 채팅 사용

  • 관리자 페이지에서 플러그인 설정 완료 시, 사용자 페이지 채팅 화면에서 파일/이미지 기반의 대화를 할 수 있습니다.

  • 사용자 채팅 화면에서 파일 아이콘이 생성됩니다. 파일 아이콘 클릭 시, '이미지 업로드'와 '문서 파일 업로드' 중에서 선택하여 업로드 가능합니다.

  • 이미지/파일 업로드 시, 텍스트는 필수로 입력해야 합니다.

  • 이미지/파일은 최대 10개까지 업로드 가능합니다.

  • 사용자 본인이 업로드 한 이미지/파일 다운로드 및 클릭은 불가능합니다.

Previous리서치 에이전트 커스텀 노드 함수Next커스텀 워크플로우 전처리 코드 사용

Last updated

Was this helpful?