다음을 통해 공유

다음을 사용하여 제공된 모델 쿼리 ai_query

  • 아티클

Important

이 기능은 공개 미리 보기 상태입니다.

이 문서에서는 SQL에서 엔드포인트를 ai_query() 데이터 행이 100개가 넘는 사용 사례의 경우 Databricks는 프로비전된 처리량 엔드포인트와 함께 ai_query 사용하는 것이 좋습니다. ai_query을 사용하여 일괄 처리 LLM 유추를 수행하려면 을 참조하세요.

ai_query()이란 무엇인가요?

이 ai_query() 함수는 AI 함수의 일부인 기본 제공 Azure Databricks SQL 함수입니다. SQL 쿼리에서 이러한 유형의 모델에 액세스할 수 있습니다.

  • 엔드포인트를 제공하는 모델에서 호스트하는 사용자 지정 모델입니다.
  • Databricks Foundation 모델 API에서 호스트되는 모델입니다.
  • 외부 모델(Databricks 외부에서 호스트되는 타사 모델)

구문 및 디자인 패턴은 ai_query 함수를 참조하세요.

이 함수를 사용하여엔드포인트에서 모델을 쿼리할 때, 이는 및작업 영역과 지역에서만 가능하며, 모델 서비스가 사용 가능하고 활성화된 경우에만 사용할 수 있습니다.

요구 사항

다음을 사용하여 엔드포인트 쿼리 ai_query()

서버리스 또는 프로 SQL 웨어하우스를 사용하여 ai_query() 엔드포인트 뒤에 있는 모델을 쿼리할 수 있습니다. 채점 요청 및 응답 형식은 쿼리 생성 AI 모델을 참조 하세요.

참고 항목

  • Databricks Runtime 14.2 이상의 경우 이 함수는 Databricks Notebook 및 작업을 비롯한 Notebook 환경에서 지원됩니다.
  • Databricks Runtime 14.1 이하의 경우 이 함수는 Databricks Notebook을 비롯한 Notebook 환경에서 지원되지 않습니다.

예: 큰 언어 모델 쿼리

다음 예제에서는 sentiment-analysis 데이터 세트를 사용하여 text 엔드포인트 뒤에 있는 모델을 쿼리하고 요청의 반환 형식을 지정합니다.

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews
LIMIT 10

예: 예측 모델 쿼리

다음 예제에서는 spam-classification 엔드포인트 뒤에 있는 분류 모델을 쿼리하여 textinbox_messagestable스팸인지 여부를 일괄 처리합니다. 모델은 타임스탬프, 보낸 사람, 텍스트 등 3가지 입력 기능을 사용합니다. 모델은 부울 배열을 반환합니다.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages
LIMIT 10