A tecnologia empresarial pode se redimir com a IA generativa? Vishal Sikka sobre como fazer a IA da maneira certa e evitar fornecedores de óleo de cobra de IA generativos

Vishal Sikka, fundador e CEO da startup de IA Vianai Systems, conversamos sobre os altos e baixos da montanha-russa de IA - e Sikka viu muitos.

Descobrimos por que Sikka assinou aquela carta amplamente incompreendida que alertava sobre os perigos da IA ​​e pediu aquela pausa infame.

Claro, falamos sobre os problemas dos LLMs, incluindo alucinações e explicabilidade: Tolerância zero" para alucinações - Dr. Vishal Sikka sobre como Vianai constrói aplicativos de IA e as emoções confusas do ciclo de hype da IA. Abordamos como Vianai aborda isso em o contexto de suas aplicações de IA de próxima geração, como:

Mas há mais. Qual é o conselho da Sikka para clientes que avaliam fornecedores de IA generativa? Afinal, o sucesso empresarial com IA generativa é um conjunto de saltos totalmente diferente do que experimentar o ChatGPT em seu próprio tempo.

Minha lista parcial de obstáculos empresariais de IA generativa: gerenciamento de riscos, problemas de dados/preços do cliente, caixa preta/explicabilidade, mitigação das limitações técnicas de LLMs, dificuldades em usar LLMs de terceiros e personalizá-los com dados de treinamento do cliente, respeitando a privacidade dos dados e optando por -outs, implicações para os preços do cliente, prós/contras do caso de uso, etc.

Essa é uma lista imponente de obstáculos e dificilmente é uma lista completa. E ainda assim, como eu disse a Sikka,Vejo a IA generativa como a oportunidade de redenção da tecnologia empresarial . Parece que a tecnologia de consumo está na frente da inovação empresarial há décadas, com a cultura de aplicativos para smartphones como prova A. Mas a IA generativa precisa urgentemente de proteções responsáveis, e todos os fatores que citei acima - não é nisso que as empresas se destacam? ?

Como eu disse a Sikka:

O que a empresa impõe à IA, na minha opinião, é exactamente o que a IA precisa neste momento, ou seja, coisas como segurança, supervisão legal, supervisão ética, utilização adequada dos dados. Então, por exemplo, uma das coisas que Vianai aborda e ChatGPT não é: diferentes tipos de fontes de dados que vão te dar um resultado mais limpo. Acho que você também, nessas ferramentas, aborda alguns dos problemas de explicabilidade, pelo menos em termos de onde a informação foi obtida.

Sikka concorda: “Esta é uma oportunidade para as empresas mostrarem a liderança para uma IA confiável, uma IA responsável”. Outro componente potencial para uma IA melhor? Alguma forma de aprendizagem por reforço. A OpenAI também fez uma versão de força bruta disso, para colocar algumas "proteções" preconceituosas/preconceituosas no ChatGPT, embora não sem controvérsias sobre a contratação de mão de obra. Mas as empresas, em teoria, poderiam utilizar a formação em modelos iterativos para permitir que os especialistas do domínio afinassem os resultados desejados. Como explica Sikka, essas abordagens também podem construir a confiança do usuário:

A aprendizagem por reforço é uma das maneiras de fazer isso. A outra parte é simplesmente conversacional. Meu mentor costumava ter um truque maravilhoso em que perguntava: 'Deixe-me reproduzir isso'. Então, digamos que você fez uma pergunta complicada. Ele dizia: 'Deixe-me reproduzir isso; você queria fazer essa pergunta? Você poderia dizer: 'Faça uma correção'. E então ele responderia à pergunta. Claro, também era uma espécie de truque, porque lhe dava tempo para pensar.

Fazemos isso [em Vianai] quando não temos certeza da intenção do usuário. Portanto, se você fizer uma pergunta que envolva junções, ou junções internas complexas, ou algo complicado em várias tabelas, nós a colocaremos de volta na sua frente dizendo: 'Ei, você quis dizer isso?' E o usuário dirá: 'Sim, foi isso que eu quis dizer' ou corrigirá. Então essa é uma maneira muito simples de desambiguar ou esclarecer a intenção do usuário.

Da mesma forma, quando fornecemos uma resposta, seja em dados baseados em texto ou em dados tabulares estruturados, nós a colocamos na frente dos usuários dizendo: 'Aqui é onde obtivemos os dados; esta foi a consulta que foi executada e esta é a resposta.' Não é fácil fazer isso. Mas fazemos isso - e isso é necessário para as empresas, para que confiem nos resultados que lhes apresentamos.