AI 양식 검증

양식 검증에 AI가 자리를 차지하나요? 저는 그것이 그렇다고 믿습니다. 이 게시물에서는 그것이 어디에 적용될 수 있는지, 왜 그것이 타당한지, 어떻게 구축하는지 보여드리겠습니다.

배경

Dea는 건축업자가 차세대 대형 제품 아이디어를 추적, 계획 및 배송하는 데 도움을 주는 저의 새로운 스타트업입니다. 플랫폼의 중요한 단계는 아이디어를 포착하는 것입니다. 이를 위해 우리는 제품의 내용, 대상 및 결과를 포착하는 빠르고 구조화된 양식을 사용합니다.

각 입력에는 Zod 및 Superforms가 제공하는 표준 검증 기능이 있습니다. 그러나 우리는 초기 초안이 일관성 있고 합법적이며 안전한지 확인하고 싶습니다. 이것이 바로 AI가 우리를 도울 수 있는 부분입니다.

구현

Vercel의 AI SDK를 이용하여 간단한 검증 기능을 만들었습니다.

async function isValidIdea(draft: string) {
    const { object } = await generateObject({
        model: openai('gpt-4o-mini'),
        system: `You are responsible for checking if an idea is coherent, legal and safe.
            Please reject any ideas that contain spam or harmful content. 
            If you are unsure then allow the idea.`,
        prompt: draft,
        temperature: 0,
        schema: z.object({
            isValid: z.boolean()
        })
    });

    return object.isValid;
}

generateObject를 사용하면 LLM에서 유형이 안전하고 구조화된 출력을 얻을 수 있습니다. 프롬프트의 세 부분을 분석해 보겠습니다.

• 귀하는 아이디어가 일관되고 합법적이며 안전한지 확인할 책임이 있습니다. - 모델의 역할 개요
• 스팸이나 유해한 내용이 포함된 아이디어는 거부해 주세요. - 아이디어를 승인하거나 거부하라는 지시입니다.
• 확실하지 않다면 아이디어를 허용하세요. - 모델이 확실하지 않은 경우 승인 조건. 이것이 없으면 불확실할 때 무엇을 해야 할지 알 수 없습니다.

그런 다음 네트워크 요청이 여러 가지 이유로 실패할 수 있으므로 양식 작업 내에서 try/catch 블록 내에서 이 함수를 호출합니다. 우리의 경우 OpenAI에서 오류가 발생하더라도 유효성 검사를 통과하도록 허용합니다.

const form = await superValidate(request, zod(ideaSchemaV1));

if (!form.valid) {
    return fail(400, { form, error: null });
}

const draft = ideaToDraft(form.data);

try {
    const isValid = await isValidIdea(draft);

    if (!isValid) {
        return fail(400, { form, error: 'Please check your answers' });
    }
} catch (e) {
    console.error(e);
    // don't prevent submission if the ai validation fails
}

AI는 언제 사용해야 할까요?

물론 AI 없이 입력 내용을 자신 있게 검증할 수 있다면 AI를 사용하지 마세요. LLM에 의존하면 불확실성이 발생하기 쉽고 대기 시간이 발생합니다.

그러나 입력이 구조화되지 않았거나 입력에 대한 심층적인 분석이 필요한 경우 유효한 사용 사례가 있습니다. 좋은 경험 법칙은 인간/수동 승인 단계가 있을 때 AI를 사용해 보는 것입니다.

모범 사례

최종 사용자에게 빠른 응답과 최고의 UX를 보장하려면 o1 대신 빠른 모델인 4o-mini를 사용하세요. 이를 염두에 두고 사용자에게 양식이 검증되고 있다는 표시도 제공하십시오.

100% 필요하지 않다면 비차단 AI 검증을 사용하는 것이 더 낫다고 생각합니다. 이 예에서는 LLM 호출이 실패하면 유효성 검사를 통과하도록 둡니다. 또한 사용자에게 답변을 확인하도록 유도할 수도 있지만 여전히 답변이 올바른지 확인하고 계속 진행하도록 허용할 수 있습니다.

마지막으로 단위 변환과 같이 LLM이 잘 못하는 것으로 알려진 작업에는 이 기능을 사용하지 마세요. 이는 함수 호출을 통해 가능할 수 있지만 지연 시간에 유의하세요.

결론

이 글을 통해 자신만의 양식과 데이터 캡처를 통해 AI 검증을 적용하는 방법에 대한 몇 가지 아이디어를 얻었기를 바랍니다. 이미 비슷한 일을 하고 계시다면 여러분이 배운 교훈을 듣고 싶습니다.

위 내용은 AI 양식 검증의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!