Medindo orientação errada: o risco não monitorado na resolução de chamados por IA

O episódio destaca uma mudança estrutural para a dependência operacional de agentes de IA atuando como pessoal de serviço, em vez de apenas ferramentas de suporte, levantando novas questões sobre degradação de habilidades, mecanismos de verificação e responsabilidade em ambientes de serviços gerenciados. Shield Technology Partners e Microsoft exemplificam essa tendência ao implementarem sistemas operacionais de IA—o Forge da Shield e o Autopilot da Microsoft—que gerenciam de forma independente partes substanciais do processo de suporte de TI, em alguns casos do início ao fechamento de chamados, frequentemente sem aprovação ou intervenção humana direta.

Segundo a Shield, sua plataforma Forge atualmente resolve aproximadamente metade de todos os chamados acionáveis em sua rede de MSPs, sendo que 92% dessas resoluções ocorrem sem tempo registrado de técnico ou supervisão humana explícita. Em tarefas comparáveis, a Shield afirma que o Forge resolve chamados 25 vezes mais rápido do que técnicos humanos, com um tempo mediano de resolução de 16 minutos. A última atualização do Copilot da Microsoft introduz o Autopilot, que permite a criação de agentes de IA persistentes e específicos para funções, com identidades de usuário, contas de e-mail e posições organizacionais próprias, tornando ainda mais tênue a diferença entre aumento e substituição de pessoal.

Esses avanços técnicos são acompanhados por evidências de deterioração de habilidades entre técnicos e trabalhadores do conhecimento, conforme citado em pesquisa da IBM com mais de 10.000 líderes de RH e funcionários. A capacidade de supervisionar, validar e sobrescrever saídas de IA é considerada uma habilidade essencial do futuro por 71% dos executivos de RH, mas apenas 38% dos funcionários concordam, enquanto 60% reconhecem que a IA está corroendo o pensamento crítico. O episódio também aborda os riscos operacionais documentados na OpenAI, onde auditores humanos são proibidos de utilizar ferramentas baseadas em IA para revisar saídas de IA, evidenciando a permanência da necessidade da supervisão humana mesmo com o avanço da automação.

As implicações operacionais para MSPs incluem a necessidade de novas medidas de governança e métricas para monitoramento de habilidades. O podcast propõe um protocolo prático: o agendamento periódico de exercícios de resiliência para avaliar a capacidade dos técnicos em identificar orientações falsas geradas por IA. Esses exercícios gerariam uma “taxa de aceitação de orientações falsas,” fornecendo um dado crítico ausente dos painéis atuais dos fornecedores. A análise sugere que, sem mensurações ativas desse tipo, as estatísticas de produtividade podem mascarar riscos crescentes de dependência, perda de habilidades e exposições não reconhecidas à medida que a IA lida com uma parcela crescente do suporte.

Este episódio utiliza ferramentas de inteligência artificial (IA) para aprimorar o processo de produção. Alguns aspectos, como edição, criação de vídeo ou geração de voz, podem incorporar elementos gerados por IA. Em particular, a voz em espanhol neste episódio foi gerada por IA. Todo o conteúdo e as opiniões são cuidadosamente supervisionados por Dave Sobel, garantindo precisão e alinhamento com a missão do programa. A transparência é importante para nós, portanto, não hesite em entrar em contato caso tenha alguma dúvida sobre nosso processo criativo.

A MSP Radio conta com o apoio dos nossos parceiros:

ABC Solutions | CometBackup | FireTail | Guardz | HaloPSA | LogMeIn | Mailprotector | OpenText | Pax8 | Proofpoint | Rythmz | ScalePad | TimeZest | Transit AI | USecure

Apoiar a comunidade de serviços de TI com informações, análises e transparência.

Hosted by Simplecast, an AdsWizz company. See pcm.adswizz.com for information about our collection and use of personal data for advertising.

Leave a Reply