*Encaminhe o título original: '"Eu só apoio se for open source" deveria ser uma visão mais comum'

Muitas vezes ouvimos preocupações sobre determinadas tecnologias radicais podendo aumentar desigualdades de poder, já que, inevitavelmente, elas tendem a ficar disponíveis apenas para os ricos e poderosos.

Veja esta citação de uma pessoa preocupada com os efeitos da extensão da vida:

“Algumas pessoas ficarão para trás? Estaremos tornando a sociedade ainda mais desigual do que já é?” questionou. Tuljapurkar previu que o boom da longevidade ficará restrito aos países ricos, onde os cidadãos podem pagar por tecnologias antienvelhecimento e os governos podem investir em pesquisa científica. Essa disparidade aprofunda o atual debate sobre acesso à saúde, já que os ricos se distanciam ainda mais dos pobres — não só em qualidade, mas também em tempo de vida.

“Grandes empresas farmacêuticas têm um histórico conhecido de dificultar o acesso para quem não pode pagar”, acrescentou.

Se as tecnologias antienvelhecimento forem liberadas sem regulação, “é perfeitamente possível que acabemos com sub-classes globais permanentes, países presos às condições atuais de mortalidade”, apontou Tuljapurkar. “Se isso acontecer, cria-se um ciclo vicioso. Países excluídos permanecem excluídos.”

Palavras igualmente contundentes aparecem neste artigo que discute aprimoramento genético humano:

No início deste mês, cientistas anunciaram que editaram genes em um embrião humano para remover uma mutação causadora de doenças. Uma conquista extraordinária, resposta às orações de muitos pais. Afirma-se ser desejável evitar sofrimento desnecessário aos filhos.

Mas não para por aí. Muitos pais também buscariam garantir que seus filhos tenham as melhores vantagens possíveis através de melhorias genéticas. Apenas quem tem recursos terá acesso. Essa possibilidade levanta questões éticas além da segurança dos métodos. O alto custo agravaria a escassez e aprofundaria a desigualdade de renda, que só cresce.

Outros exemplos similares surgem em diversas áreas tecnológicas:

• Tecnologia digital em geral: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Viagens espaciais: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html

• Geoengenharia solar: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

  Esse argumento aparece em diversas críticas às novas tecnologias. Um tema relacionado, porém distinto, envolve produtos tecnológicos usados como ferramentas de coleta de dados, bloqueio por fornecedor, efeitos colaterais propositadamente ocultos (como críticas feitas a vacinas modernas) e outros tipos de abuso. Tecnologias recentes abrem mais margem para entregar algo ao usuário sem conceder direitos completos ou informações plenas, tornando antigas tecnologias aparentemente mais seguras sob essa ótica. Isso também reforça o poder do fabricante sobre o usuário, diferentemente da preocupação anterior, que era sobre desigualdade de acesso.

  É considerado muito favorável ao avanço tecnológico e, caso fosse uma escolha binária entre “avançar” ou “ficar como está”, a opção seria pelo avanço em praticamente tudo, exceto em casos muito específicos (ex: pesquisa de ganho de função (gain-of-function research), armas e IA superinteligente), mesmo com riscos. Porque, no geral, os benefícios — vidas mais longas e saudáveis, sociedades prósperas, relevância humana preservada frente à evolução da IA, continuidade cultural com gerações mais velhas vivas como pessoas, não só como memórias — superam amplamente os riscos (que costumam ser superestimados).

  No entanto, se a perspectiva for de alguém menos otimista ou mais receoso de que pessoas poderosas usem novas tecnologias para ampliar sua dominação econômica e controle social, poderia haver apreensão. Essa postura já se verifica com casa inteligente (smart home): a conveniência de falar com a lâmpada não compensa abrir a vida pessoal para o Google ou a Apple. Com uma ótica mais pessimista, poderia haver apreensão com certas tecnologias de mídia: se elas facilitam que pessoas poderosas transmitam suas mensagens com mais alcance que as demais, podem servir para manipulação e silenciamento, sem que os benefícios de mais informação ou entretenimento compensem essa redistribuição de poder.

Open source como uma terceira via

A meu ver, um posicionamento subestimado nesses debates é: apoiar uma nova tecnologia apenas se for desenvolvida em open source.

Há bons argumentos de que o open source acelera o progresso, facilitando a construção colaborativa sobre inovações anteriores. Também existem argumentos de que exigir open source pode frear o avanço, ao restringir formas de monetização. Mas o mais interessante é que as principais consequências do open source transcendem a questão do “avanço rápido ou lento”:

• O open source amplia a igualdade de acesso: sendo aberto, qualquer pessoa em qualquer país pode utilizar. Bens e serviços físicos ainda demandam custo marginal, mas em muitos casos o preço de produtos proprietários é alto pelo custo de desenvolvimento não recorrente (NRE, Non-recurring Engineering) e os custos marginais são baixos — notadamente na indústria farmacêutica.
• O open source amplia a igualdade de acesso como produtor. Críticas ao acesso gratuito a bens finais — mesmo essenciais, como saúde — apontam que isso nem sempre ajuda as pessoas a adquirir habilidades para prosperar na economia global e assegurar um acesso sustentável à qualidade de vida (exemplo: Magatte Wade sobre ajuda internacional para África). O open source resolve isso: o foco é capacitar indivíduos de qualquer lugar a atuar como produtores em toda a cadeia, não só consumidores.
• O open source aprimora a verificabilidade: quando algo é open source (idealmente incluindo processos, parâmetros etc.), é muito mais fácil conferir se o que está sendo entregue corresponde ao prometido — inclusive, facilita a pesquisa de terceiros para identificar riscos ocultos.

• O open source elimina o bloqueio por fornecedor (vendor lock-in). Se um produto é open source, o fabricante não pode inutilizá-lo removendo funções remotamente ou simplesmente fechando a empresa (exemplo: preocupação com carros conectados que param de funcionar se a empresa fechar). Você sempre mantém o direito de reparar por si mesmo ou recorrer a outro serviço.

  Esse raciocínio pode ser aplicado a diversas tecnologias radicais citadas no início do texto:

• Se tecnologia de extensão da vida for proprietária, pode ficar restrita a bilionários e líderes políticos (pode-se ser mais cético quanto à queda dos custos). Se for open source, qualquer pessoa poderá usar ou oferecer a outros a baixo custo.

• Se o aprimoramento genético humano for proprietário, pode ser restrito a bilionários e líderes, criando uma superclasse. (Há expectativa de difusão da tecnologia, mas haverá uma diferença entre o topo e a média.) Com open source, essa diferença cai drasticamente.
• Para qualquer biotecnologia, um ecossistema de testes de segurança baseado em ciência aberta (open science) tende a ser mais transparente e confiável do que uma empresa validando o próprio produto para um regulador complacente.
• Se poucos podem ir ao espaço, há risco de alguém querer se apropriar de um planeta ou lua. Com tecnologia distribuída, essas oportunidades diminuem muito.

• Se seu carro inteligente é open source, você pode checar que o fabricante não está vigiando você, e não depende dele para manter o carro funcionando.

  O conceito pode ser visualizado no gráfico a seguir:

O balão “construir apenas se for open source” é mais amplo porque há mais incerteza sobre quanto progresso aberto pode gerar e quantos riscos de concentração de poder pode mitigar. Mas, ainda assim, é uma ótima estratégia em grande parte dos cenários.

Open source e o risco de uso indevido

Um dos principais argumentos contra tornar tecnologias poderosas open source é o risco de comportamentos de soma zero e abusos descentralizados. Se todos tivessem armas nucleares, a desigualdade nuclear acabaria (um problema real, já que Estados poderosos usam a assimetria para ameaçar outros até hoje), mas provavelmente bilhões morreriam. Um efeito social negativo sem malícia direta é, por exemplo, o acesso universal à cirurgia plástica: pode virar uma competição em que todos gastam recursos e arriscam a saúde para serem mais bonitos — e, no fim, a sociedade não se beneficia de fato. Certas biotecnologias podem levar a efeitos semelhantes. Muitas tecnologias — especialmente no setor biológico — ficam entre esses extremos.

Esse argumento justifica uma abordagem oposta: “Só apoio se houver controle rigoroso por guardiões confiáveis”. Guardiões podem liberar usos positivos e barrar abusos. Podem até ter um mandato público para garantir acesso não discriminatório para quem segue as regras. No entanto, há bastante ceticismo quanto a isso. O principal motivo é não acreditar que, no mundo atual, existam guardiões realmente confiáveis. Muitos dos casos mais arriscados envolvem o uso militar, e as forças armadas têm histórico ruim de autolimitação.

Um exemplo emblemático é o programa soviético de armas biológicas:

Apesar de postura contida diante da SDI e das armas nucleares, a conduta de Gorbachev no programa ilegal soviético de armas biológicas intriga, diz Hoffman.

Quando Gorbachev assumiu em 1985, a União Soviética mantinha um vasto programa biológico iniciado sob Brejnev, apesar de ser signatária da Convenção de Armas Biológicas. Trabalhavam não só com antraz, mas também com varíola, peste e tularemia — e os verdadeiros objetivos desse arsenal nunca ficaram claros.

“Os documentos de Kateyev mostram diversas resoluções do Comitê Central sobre o programa biológico nos anos 80. É difícil acreditar que tenham sido assinadas sem o conhecimento de Gorbachev”, afirma Hoffman.

“Há até um memorando de maio de 1990 para Gorbachev sobre o programa — ainda assim sem revelar toda a verdade. Os soviéticos enganaram o mundo e seus próprios líderes.”

Além disso, esta fonte defende que esse programa pode ter sido disseminado para outros países após o colapso soviético.

Outros países também têm muitos erros graves. Há diversos exemplos documentados sobre pesquisa de ganho de função (gain-of-function research) em diferentes locais (este livro aprofunda o tema). No mundo dos softwares digitais (ex: finanças), a interdependência armada mostra que o que deveria ser proteção contra abuso rapidamente vira uso unilateral de poder pelo operador.

Outro problema com guardiões: normalmente estão sob governos nacionais, que podem tentar garantir igualdade dentro do país, mas não existe uma entidade poderosa capaz de garantir igualdade entre países.

Importante ressaltar: não se afirma que, se guardiões são ruins, a solução seja a liberação total (principalmente quanto à pesquisa de ganho de função). O que se defende são duas coisas:

• Se algo apresenta riscos de “abuso de todos contra todos” a ponto de só ser aceitável sob rígido controle centralizado, talvez o melhor mesmo seja não fazer — e buscar alternativas mais seguras.
• Se algo acarreta riscos de “dinâmica de poder” que impedem sua adoção, considere viabilizá-lo, mas sempre em open source, para garantir transparência e participação justa de todos.

Cabe ressaltar que “open source” não significa “qualquer um faz o que quiser”. Por exemplo, defende-se que geoengenharia seja feita em regime open source e ciência aberta, mas isso não quer dizer que qualquer um pode desviar rios ou liberar agentes na atmosfera — leis e acordos diplomáticos existem, e ações desse tipo são facilmente detectáveis, tornando esses acordos plenamente executáveis. A abertura serve para (i) tornar a tecnologia mais democrática (ex: acessível a vários países, não só a um) e (ii) ampliar o acesso à informação, permitindo que todos avaliem a eficácia e a segurança do que está sendo feito.

De maneira fundamental, enxerga-se o open source como o ponto focal (Schelling) ideal para promover tecnologia com menor risco de concentração de riqueza, poder e informação assimétrica. É possível construir instituições sofisticadas tentando separar usos benéficos dos negativos, mas, no contexto caótico atual, a solução mais sólida é uma garantia clara, pública e compreensível: as coisas acontecem de modo aberto e qualquer um pode entender e participar.

Na maioria dos casos, essas preocupações pesam menos que o valor extremo de acelerar o avanço tecnológico (ou, em situações específicas, de retardar o máximo possível até surgirem contramedidas ou alternativas). No limite, a terceira via — focar menos na velocidade e mais no modelo de desenvolvimento, usando o open source como ferramenta de mudança positiva — merece maior destaque.

Aviso legal:

1. Este artigo é republicado de [vitalik]. Todos os direitos autorais pertencem ao autor original [vitalik]. Caso queira contestar esta publicação, entre em contato com a equipe Gate Learn para a devida providência.
2. Aviso de responsabilidade: As opiniões presentes neste artigo são exclusivas do autor e não constituem qualquer recomendação de investimento.
3. As traduções para outros idiomas são conduzidas pela equipe Gate Learn. Salvo indicação, é proibida a cópia, distribuição ou plágio do conteúdo traduzido.