Em um avanço revolucionário para a inteligência artificial (IA), a equipe responsável pelo ChatGPT, da OpenAI, anunciou o desenvolvimento de um novo modelo de IA, denominado Orca, que tem potencial para superar o desempenho do próprio ChatGPT. Esta façanha notável é ainda mais impressionante pelo fato de que Orca será disponibilizada gratuitamente e, com apenas 13 bilhões de parâmetros, é pequena o suficiente para ser executada em um computador comum.
O anúncio veio por meio de um relatório de 51 páginas divulgado pela Microsoft há apenas 48 horas. Orca foi projetada para imitar a lógica e as explicações do GPT-4, utilizando o GPT-3.5 como assistente e treinando em uma diversidade de tarefas com uma magnitude de exemplos muito superior.
Orca supera GPT
Em termos técnicos, Orca é um avanço notável na imitação da aprendizagem, que visa melhorar a capacidade de modelos menores com base nas saídas geradas pelos chamados Modelos Fundamentais de Grande Porte (LFMs).
Orca supera problemas comuns nestes modelos, como sinais limitados de imitação, dados de treinamento homogêneos e uma falta de avaliação rigorosa. Ao contrário de outros modelos, Orca não apenas imita o estilo do LFM, mas aprende a replicar o processo de raciocínio.
Orca supera modelos convencionais afinados para instrução, como o Vicuna-13B, em mais de 100% em benchmarks de raciocínio complexos como o Big-Bench Hard (BBH) e 42% no AGIEval. Além disso, Orca atinge paridade com o ChatGPT no benchmark BBH e mostra um desempenho competitivo em exames profissionais e acadêmicos, como SAT, LSAT, GRE e GMAT.
Vitória para modelos Open Source
A disponibilização do Orca para o público é uma grande vitória para a comunidade de IA de código aberto. A importância de ferramentas de IA de código aberto como Orca reside no fato de que elas permitem que pesquisadores e desenvolvedores em todo o mundo contribuam para o avanço do campo da IA, facilitando o compartilhamento de ideias, técnicas e melhorias. Esta acessibilidade universal pode acelerar o ritmo da inovação, levando a avanços ainda maiores em um ritmo mais rápido.
Ao tornar Orca disponível gratuitamente, a equipe do ChatGPT está reafirmando o compromisso da comunidade de IA de código aberto com a transparência e o acesso universal. Isso é um passo importante para garantir que o futuro da IA seja moldado por uma ampla gama de vozes e perspectivas, e não apenas por um punhado de grandes corporações.
A contribuição da comunidade global é crucial para o desenvolvimento de IA responsável e justa, e projetos como Orca são um passo importante nesta direção.
