CAFÉ - Pause Giant AI Experiments
A seção Café eu uso como ponto de partida para tomarmos um café e falarmos sobre temas de tecnologia …. e o tema de hoje é …
Pause Giant AI Experiments
Neste exato momento está acontecendo um movimento para que muitas pessoas e empresas assinem a carta Pause Giant AI Experiments: An Open Letter. Nela pede-se para parar por seis meses o desenvolvimento de pesquisas em Inteligência Artificial (AI). O texto da carta afirma que podemos estar diante de uma ruptura na história da humanidade, o texto ainda questiona se “devemos automatizar tudo? … Deveríamos desenvolver mentes não-humanas que eventualmente nos superaram em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”
A carta ainda solicita que “devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável. [4] Isso não significa uma pausa no desenvolvimento da IA em geral, apenas um retrocesso na corrida perigosa para modelos de caixa preta cada vez maiores e imprevisíveis com capacidades emergentes.”
Ao meu ver a intenção da carta é muito nobre, sem dúvida é uma tentativa de se fazer um ajuste no percurso, mas eu acho muito difícil isso acontecer. Veja algumas das razões pessoais pelas as quais eu acredito que isso não vai acontecer:
-
O que está em jogo é o controle e poder de uma tecnologia, quem dominar primeiro, vai fincar o pé na história mundial e vai ganhar muitoooo dinheiro com isso, muitoooooo mesmo;
-
Chat GPT-3 e Chat GPT-4 são os únicos produtos que se mostraram competentes suficientes para ameaçar o Google e brigar por alguns porcentos do mercado de buscas, dominado pelo Google com cerca de 93% , segundo a Statcounter.com;
-
Aquecimento global, estamos há anos falando de aquecimento global, falando dos riscos mostrando as causas e efeitos mas pouco se faz a respeito;
-
As armas atômicas, esse tipo de armas representam um risco imenso à humanidade, e ainda sim são desenvolvidas. Existe um certo controle em certos países e um certo controle mundial sobre o desenvolvimento de nova novas armas. Controle imposto só veio depois que alguns países dominaram a técnica.
-
Assinar a carta não significa realmente parar, não significa que todos vão parar alguma coisa. Algumas pessoas podem assinar para tirar uma foto e posar de “bonito” para a opinião pública, mas internamente na sua empresa no seu país pode não acontecer absolutamente nada muda.
Esses são alguns pontos que eu particularmente acho importante considerar, são questionamentos que eu não tenho a menor pretensão que sejam afirmativas cheias de certezas, são apenas afirmações que comparam ações e respostas dadas e adotadas no passado para temas de complexidade equivalente…. e sem dúvida é um tema que eu acho que vale um café…
Acho uma boa referência ler e ouvir o Yuval Harari, sobre o que ele fala sobre esses pontos:
Abraços!
Vida longa e próspera a todos!!
Referências
- Pause Giant AI Experiments: An Open Letter
- https://gs.statcounter.com/search-engine-market-share
- https://www.youtube.com/watch?v=HGTGoRrzItA
|
|
