가드레일 필터 만들기/적용하기

가드레일 생성

1. 가드레일 메뉴로 이동합니다.

2. 가드레일 생성 버튼을 클릭합니다.

3. 생성 양식에 필요한 정보를 입력합니다

   • 제목 : 가드레일 제목을 입력합니다.

   • 설명 : 가드레일의 용도를 설명합니다.

   • 관리 그룹 : 해당 가드레일을 관리할 그룹을 선택합니다.

4. 생성 버튼을 눌러 완료합니다.

• 가드레일 리스트에서 생성한 가드레일을 더블클릭합니다.

• 연결된 워크플로우 또는 LLM 서빙이 있을 경우 삭제는 불가하여 삭제 버튼은 비활성화됩니다.

• 필터 추가 버튼을 클릭하여, 가드레일 내 필터를 등록합니다.

• 생성 양식에 필요한 정보를 입력합니다.

  • 제목 : 필터 제목을 입력합니다.

  • 차단 방식 : 차단 방식을 선택합니다.

    • 워크플로우 : 가드레일에 사용되는 워크플로우를 선택합니다.

    • 정규식 : 정규식을 입력합니다.

  • 응답 방식 : 차단 방식에 따라 응답 방식을 설정합니다.

• 차단 방식 1. 워크플로우

  • 차단 방식 : 워크플로우

  • 워크플로우 : 가드레일에 사용되는 워크플로우를 선택합니다.

    • 가드레일이 활성화되지 않은 배포 중인 워크플로우만 노출됩니다.

  • 응답 방식 : 사용자에게 제공할 안내 메시지를 입력합니다.

    
• 차단 방식 2. 정규식

  • 차단 방식 : 정규식

  • 정규식 : 정규식을 입력합니다.

  • 응답 방식 : 사용자에게 안내 메시지를 제공하거나 마스킹 처리하여 제공할 수 있습니다.

  
• 필터 리스트에서 생성한 필터를 더블클릭합니다. 상세한 정보를 확인할 수 있습니다.

• 등록한 필터는 우선순위를 편집할 수 있습니다.

  • 리스트 위에서부터 순차적으로 필터의 우선순위가 적용됩니다.

  

가드레일 필터 적용하기

• 가드레일 필터는 워크플로우와 LLM 서빙에 적용할 수 있으며, 플러그인 탭에서 지원합니다.

• 적용 대상 1. 워크플로우

  • 플러그인 탭을 선택합니다.

  

  • 가드레일 옵션에서 입력 또는 출력 각각 가드레일 범위를 설정할 수 있습니다.

  

  • 가드레일 추가 버튼으로 설정하고자 하는 가드레일을 선택합니다.

    • 가드레일 메뉴에서 등록한 가드레일 리스트가 제공됩니다.

    
  • 가드레일을 추가할 수 있으며, 가드레일간의우선순위를 조정할 수 있습니다.

  *가드레일 플러그인 저장 후에는 워크플로우 재배포가 필요합니다.

적용 대상 2. LLM 서빙

• 플러그인탭을 선택합니다.

• 적용 방법은 워크플로우와 동일하며, 대표 리비전에 적용됩니다.

• 가드레일이 적용된 채팅 화면입니다.