인공지능의 관찰성을 어떻게 향상시킬 수 있나요?

현 시대의 맥락에서 우리는 과거에 대한 향수를 이해할 수 있지만, 우리가 다른 환경에 있다는 것을 깨달아야 합니다. 결과적으로 관찰 가능성은 다시는 동일하지 않습니다

AI가 관찰 가능성을 향상시키는 방법

최근 관찰 가능성은 점점 더 복잡해졌습니다. 모든 것이 메인프레임에서 실행되는 초기 IT 모니터링보다 확실히 훨씬 더 복잡해졌습니다. 로그와 사용 가능한 모든 모니터링 데이터를 쉽게 수집하고 시각화할 수 있습니다.

최신 애플리케이션이 대부분의 조직의 핵심이 된 이후에도 상황은 훨씬 단순해졌습니다. 그러나 현재 Kubernetes, 마이크로서비스, 서버리스 세계에서는 상황이 매우 달라 보입니다. 쉽게 관찰되는 과거의 흐름을 망치로 깨뜨려 수백 개의 조각으로 쪼개는 것을 지켜본다고 상상해 보십시오. 그러나 이 모든 작은 조각들은 여전히 ​​긴밀하게 연결되어 끊임없이 소통해야 합니다.

본질적으로 이런 상황은 추상화와 가상화의 초기 도입으로 인해 발생합니다. Kubernetes가 등장했을 때 일시적이고 빠른 변화와 분산 특성으로 인해 많은 복잡성이 추가되었습니다. 이러한 상황에서는 모든 것을 관리하기가 더 어려워지고, 모니터링하고 문제를 해결하기가 더 어려워집니다. 많은 사람들이 당혹감을 느끼고 자신이 어떤 상황에 처해 있는지 알지 못합니다. 우리는 스스로에게 질문할 수 있습니다. 정말 그렇게 복잡할 필요가 있습니까?

사람들이 과거에 향수를 느끼는 것은 이해할 수 있지만 지금 우리가 처한 환경으로 인해 Observability는 다시는 동일하지 않을 것입니다.

"현대" Observability의 경계 재검토

먼저, 돌아가자 한 걸음 물러나서 정의부터 시작하여 몇 가지 기본 원칙을 소개하세요. 클라우드 인프라 및 애플리케이션의 맥락에서 관찰 가능성은 소프트웨어를 검사하고 데이터를 기반으로 결정을 내려 생산 시스템을 모니터링하고 수정하는 기술입니다. 핵심은 이러한 결정이 지속적인 모니터링, 경고 및 문제 해결뿐만 아니라 특정 결과 및 서비스 수준 목표에 초점을 맞춰야 한다는 것입니다.

다음으로 오늘날 세계에서 신뢰할 수 있는 관찰 시스템을 설계하는 방법에 대해 생각해 보겠습니다. 특히 코딩이나 인프라 문제가 빅 데이터 문제로 발전한 영역에서는 이러한 최신 관측 시스템의 컴퓨팅, 네트워크 및 스토리지 효율성 요구 사항을 개선할 수 있는 방법을 찾아야 합니다. 더 많은 데이터가 반드시 더 나은 통찰력을 의미하는 것은 아니라는 점에 유의하는 것이 중요합니다.

추상화, 가상화 및 마이크로서비스는 빙산의 일각에 불과하다는 것이 밝혀졌습니다. Copilot, Code Whisperer 등과 같은 AI 도구의 출현과 지속적인 채택으로 인해 인간이 자신이 작성한 코드가 예상대로 실행되는지 이해하기 위해 수십억 개의 다양한 이벤트를 처리, 분석 및 상호 연관시키는 것이 사실상 불가능해졌습니다. 문제가 해결되었습니다. 다시 한번, 관측 가능성은 빅데이터의 시급한 문제가 되었습니다.

엔지니어가 관측 가능성 신호를 이해하고 원격 측정 데이터를 분석하는 방법(쉽지 않은 재능)을 갖고 있다고 하더라도, 정렬해야 할 엄청난 양의 데이터는 비현실적이며 심지어 엄청날 것입니다. 사실, 대량의 데이터 중 대다수는 비즈니스에 중요한 시스템의 성능에 대한 통찰력을 제공하는 데 특별히 유용하지 않습니다.

더 많다고 해서 더 좋아지는 것은 아닙니다. 동시에, 가장 널리 사용되는 관찰 솔루션은 이 빅 데이터 문제의 거대한 데이터 흐름과 복잡성을 해결하려면 많은 정교한 기능과 추가 도구가 필요하며 모두 상당한 가격이 책정되어 있음을 나타냅니다. 데이터 확장으로. 하지만 여전히 희망은 있습니다

AI Observability 시대의 개막

마이크로서비스와 AI 생성 코드의 현대 Observability 시대에는 지나치게 복잡하거나 비용이 많이 드는 Observability가 필요하지 않습니다. 그렇습니다. AI 애플리케이션이 계속해서 성장함에 따라 우리는 큰 가능성을 보고 있습니다. AI 기반 코드를 구동하는 LLM(대형 언어 모델)은 관찰 가능성에 대한 새로운 접근 방식을 제공합니다.

어떻게 작동하나요? LLM은 고도로 분산되고 동적 시스템에 있는 로그 데이터 및 기타 원격 측정의 본질인 대규모 반복 텍스트 데이터의 패턴을 처리, 학습 및 식별하는 데 능숙해지고 있습니다. LLM은 기본적인 질문에 답하고 유용한 추론, 가설 및 예측을 도출하는 방법을 알고 있습니다.

LLM 모델은 아직 실시간으로 설계되지 않았고 모든 관찰 가능성 문제를 해결하기 위한 전체 컨텍스트 범위를 결정하는 데 충분히 정확하지 않기 때문에 이 접근 방식은 완벽하지 않습니다. 그러나 인간이 합리적인 시간 내에 대량의 기계 생성 데이터를 이해하고 컨텍스트를 설정하는 것보다 먼저 LLM을 사용하여 기준선을 설정하고 진행 상황을 이해하고 유용한 제안을 얻는 것이 훨씬 쉽습니다.

따라서 LLM은 관찰 가능성 문제를 해결하는 데 매우 적합합니다. 이는 텍스트 기반 시스템에서 사용하고 통찰력을 분석하고 제공하도록 설계되었습니다. 이는 통합을 통해 관찰 가능성에 쉽게 적용되어 의미 있는 권장 사항을 제공할 수 있습니다.

재작성된 콘텐츠: 이 분야에서 LLM의 가장 큰 가치 중 하나는 기술적 숙련도가 높지 않은 실무자를 더 잘 지원하고 이들이 크고 복잡한 데이터 질문을 처리할 수 있도록 하는 것이라고 믿습니다. 해결해야 하는 대부분의 생산 문제에는 LLM이 과거 상황별 데이터를 기반으로 지원을 제공할 수 있는 충분한 시간이 있습니다. 이러한 방식으로 LLM은 관찰 가능성을 더 간단하고 비용 효율적으로 만들 수 있습니다.

동시에 인공 지능의 관찰 가능성이 점점 더 강력해지고 있지만 향후 Chance에는 더 흥미롭고 파괴적인 측면이 있습니다. 다음은 난해한 쿼리 언어가 아닌 자연어로 작성하고 조사할 수 있는 LLM입니다. 이는 모든 수준의 사용자에게 큰 도움이 되지만 특히 실무 경험이 부족한 사용자에게는 더욱 그렇습니다.

이제 사용자는 더 이상 모든 관련 정보에 대한 전문가일 필요가 없습니다. 공통 매개변수와 관련된 쿼리를 작성하고 생산 엔지니어뿐만 아니라 사업부 리더가 사용하는 자연어를 사용할 수 있습니다. 이를 통해 생산 엔지니어뿐만 아니라 광범위한 새로운 프로세스 및 이해관계자가 관찰할 수 있습니다.

Logz.io에서 우리는 LLM과 통합을 시작했으며 플랫폼에서 흥미로운 새로운 기능을 개발하기 위해 열심히 노력하고 있습니다. 인공지능 능력. 우리는 이것이 빅 데이터 문제에 직면하고 필수적인 관찰 가능성을 추구하는 조직에 중요한 혁신을 가져올 것이라고 믿습니다. 시장에는 여전히 비용과 복잡성이라는 시급한 문제가 있지만, 이는 모든 사람이 낙관할 수 있는 많은 이유를 제공한다고 믿습니다

위 내용은 인공지능의 관찰성을 어떻게 향상시킬 수 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!