Ex-funcionário da OpenAI diz que a cultura da empresa está quebrada

Segundo seu próprio relato, David Robinson passou três anos e meio na OpenAI e liderou a redação dos relatórios de segurança que acompanharam os principais lançamentos da empresa, o que o colocaria entre os funcionários com mais tempo de casa. Ele anunciou a saída e publicou um ensaio na revista The Atlantic dizendo que o problema da empresa não é a falta de regras específicas, e sim a cultura por trás delas.

Segundo Robinson, a OpenAI cresce por tentativa e erro, abordagem que a empresa chama de implantação iterativa: lançar o produto, observar onde ele falha e corrigir depois. Na avaliação dele, isso garante falhas periódicas, e o tamanho delas cresce junto com a capacidade dos sistemas. Ele compara o setor a usinas nucleares e aeroportos, que dependem de camadas de redundância e planejamento cuidadoso, mas diz que, durante todo o tempo na empresa, nunca encontrou um colega com experiência em fazer aviões voarem com segurança ou evitar acidentes em reatores. A OpenAI respondeu que continua reforçando suas medidas de segurança e monitoramento.

Por que importa: O relato não demonstra, por si só, uma falha específica em um produto da OpenAI, mas expõe uma crítica interna aos processos da empresa. Ao comprar ou implantar um agente, pergunte ao fornecedor como ele testa falhas e contém danos, e limite o que o sistema pode fazer sem supervisão direta.