O que você precisa saber sobre a super IA Q*
O aviso de um desenvolvimento da inteligência artificial potencialmente perigoso para o ser humano supostamente desempenhou um papel importante na demissão de Sam Altman como diretor do provedor de chatGPT OpenAI. O que está por trás da suposta superinteligência Q*?
Até alguns dias atrás, a chamada superinteligência era quase um sonho impossível. Muitas pessoas ficaram impressionadas com o que a inteligência artificial já é capaz de fazer e com a velocidade com que os desenvolvedores de software estão lançando programas novos e melhores. Entretanto, mesmo muitos especialistas não conseguiam imaginar que a IA seria mais inteligente do que os seres humanos, pelo menos por enquanto. Ainda levaria anos para desenvolver uma superinteligência, de acordo com muitos especialistas. Mas agora há especulações de que um avanço importante já pode ter sido alcançado.
A razão para isso é o novo projeto do inventor do ChatGPT, OpenAI, chamado Q* ("Q-Star"). O modelo supostamente é capaz de resolver de forma independente problemas matemáticos que não conhecia antes - os especialistas acreditam que isso seria um marco na direção da "Inteligência Geral Artificial", ou AGI, abreviadamente, ou coloquialmente conhecida como superinteligência.
Conforme relatado pela agência de notícias Reuters e pela revista "The Information", a Q* também teria desempenhado um papel na demissão do CEO, agora reintegrado, e cofundador da OpenAI, Sam Altman. De acordo com as duas fontes, uma versão de teste do modelo, que provavelmente estava circulando dentro da OpenAI, alarmou os especialistas em segurança. Uma carta interna para a equipe aparentemente advertia que o desenvolvimento do Q* poderia representar uma "ameaça à humanidade".
"Ninguém sabe exatamente o que ele é"
Mas o que o programa pode fazer que desencadeou tamanha onda de medo dentro da empresa de software? "Ninguém sabe exatamente o que ele é", diz Damian Borth, Diretor Acadêmico do Programa de Doutorado em Ciência da Computação da Universidade de St. Gallen. "Não há nenhuma postagem em blog ou artigo que tenha sido publicado. Há apenas conjecturas e isso é o mais interessante." Como muitos outros na comunidade, ele suspeita que o "Q" no nome seja uma referência ao chamado Q-learning. Esse é um algoritmo do aprendizado por reforço, um método de aprendizado de máquina. Em termos simples, os programas interagem com seu ambiente, tomam decisões e recebem uma recompensa por uma ação positiva. Isso o incentiva (reforço) e ele executa a ação com mais frequência, e vice-versa para ações negativas.
Outros membros da comunidade on-line da OpenAI, no entanto, suspeitam que a computação quântica esteja por trás do codinome do projeto. Os computadores quânticos são extremamente poderosos e podem resolver problemas complexos específicos com muitas variáveis mais rapidamente do que os computadores convencionais. No entanto, Borth acredita que isso é improvável. "A OpenAI não fez muito nessa área, mas se concentrou claramente em GPUs, ou seja, processadores gráficos", diz ele. "Por outro lado, no aprendizado por reforço, a OpenAI sempre foi muito forte. Juntamente com a IA generativa, que inclui o ChatGPT, esse é um dos pilares centrais."
Por trás do asterisco de Q*, a comunidade suspeita do algoritmo "A*", que pode determinar o caminho mais curto entre dois nós ou pontos. Para fazer isso, ele não seleciona cegamente o próximo nó disponível, mas leva em conta informações adicionais para acelerar a pesquisa.
Os usuários expressam ceticismo abertamente
Embora quase nenhuma informação confiável esteja disponível sobre o Q* até o momento, muitos na comunidade já estão declarando que o novo modelo de IA é o "maior avanço da civilização humana", uma "revolução" e um sistema "inovador". Grandes palavras para o fato de que, de acordo com a Reuters e o The Information, o Q* só consegue resolver problemas de matemática no nível do ensino fundamental.
Alguns usuários são, portanto, abertamente céticos: "Como alguém que fez muitas pesquisas sobre IA, posso dizer que é muito fácil acreditar que um avanço foi alcançado", escreve um deles. Outro escreve que a "inteligência humana ou super-humana" precisa de uma "arquitetura diferente". "O Q* é um movimento nessa direção, mas não está claro se é "isso"", escreve um usuário da OpenAI.
De fato, o que o Q* tem de especial parece ser o fato de poder resolver tarefas matemáticas de forma independente. "Pelo que sabemos até agora, essa é a primeira vez que a IA consegue atingir o tipo de desempenho intelectual necessário para a matemática", diz Borth. "Portanto, a máquina não está apenas repetindo, como dizem os céticos do ChatGPT, mas supõe-se que Q* tenha a capacidade de tirar conclusões lógicas." No entanto, ainda não é possível dizer se isso também é um passo decisivo em direção à AGI.
"Por um lado, a definição de AGI não é totalmente clara. É uma máquina que tem consciência de si mesma, que trabalha contra humanos ou que simplesmente generaliza várias tarefas?", diz Borth. "Por outro lado, não acho que a AGI seja necessária para ser perigosa para os seres humanos. Dependendo de como lidamos com nossos sistemas atuais, isso já pode acontecer."
Altman é considerado o rosto do boom da IA
A inquietação também decorre do fato de que a própria empresa teria alertado sobre isso. Especialistas em segurança teriam ficado particularmente alarmados com o ritmo do desenvolvimento, informa o The Information.
Altman, que é considerado o rosto do boom da IA e que supostamente tinha como objetivo ensinar os computadores a aprender de forma independente desde o início, comentou sobre os possíveis riscos da IA em uma audiência no Senado dos EUA este ano: "Meus piores temores são de que estejamos causando danos significativos à tecnologia e ao setor. [...] Acho que se essa tecnologia der errado, pode dar muito errado. E queremos nos manifestar sobre isso", disse Altman, que agora é novamente CEO da OpenAI, depois de um vai-e-vem sem precedentes.
Inicialmente, a diretoria havia demitido Altman há quase duas semanas, sem dar motivos, e nomeou duas vezes um CEO interino. Na última quarta-feira, no entanto, a pressão do principal investidor, a Microsoft, tornou-se muito grande e Altman retornou ao seu cargo. Ao mesmo tempo, foi nomeado um novo conselho de administração, incluindo o ex-secretário do Tesouro dos EUA, Larry Summers. De acordo com Sarah Kreps, diretora do Tech Policy Institute em Washington, a nova diretoria apoia a visão de Altman de acelerar o desenvolvimento da IA e, ao mesmo tempo, tomar precauções de segurança.
Este artigo foi publicado pela primeira vez no Capital.de.
Fonte: www.ntv.de
