Perspectivas de "iskin" na gestão da humanidade

2024 Autor: Seth Attwood | [email protected]. Última modificação: 2023-12-16 16:14

O que acontece se você confiar na inteligência artificial para controlar as pessoas? Em nossa legislação, 99% das leis se contradizem. Logicamente, deve haver um colapso de energia e uma parada do sistema de controle …

Agora vamos pensar sobre o lugar que inteligência artificial(doravante - iskin) terá em nossa vida quando (se) for inventado e aplicado. Eu sugiro não discutir sobre sua natureza interna. Que seja apenas um algoritmo muito avançado que tem a capacidade de trabalhar com Big Data e é capaz de copiar de forma semelhante os padrões de comportamento de pessoas reais. Mas, se quiser, deixe que o que está sendo discutido seja um homem de verdade, como você mesmo o entende.

A principal questão aqui é esta. Onde aplicamos este Martelo de Thor depois de recebê-lo? E, em princípio, não há dúvida de que isso pode ser feito. Podemos fazer grinders digitais, algoritmos de autoaprendizagem também, grande data acumulada - tudo está lá.

Digamos, na gestão de sistemas técnicos, por exemplo, unidades de transporte individuais? - Bem, Kamon … Por que fazer um sistema inteligente e complexo para confiar o que o cavalo pode aguentar? Haverá um algoritmo primitivo e suficiente em um processador de 10 dólares por balde, o problema com o gerenciamento de transporte é apenas na obtenção de dados e em questões éticas. O que então? Pense em quinze segundos.

Na minha opinião, só existe um o verdadeiro para um iskin é gerenciar pessoas … Mais precisamente, os processos em que as pessoas fazem parte. Não faz sentido trocar por menos por uma série de razões. Cada pessoa está pronta para gerenciar pessoas sem nenhum treinamento especial. Por exemplo, confiamos totalmente em que todos cuidarão de nossos próprios filhos. Além disso, quase todos nas equipes tinham pelo menos alguma experiência de gerenciamento. Pelo menos no nível "jogue mais uma pá na maca e nós a carregaremos". Se todos uma pessoa é, em princípio, capaz de gerenciar pessoas, então uma IA deve ser capaz de fazer isso, caso contrário, é um intelecto com deficiência mental.

No entanto, os resultados da gestão de pessoas estão longe do ideal. Qualquer controle real é uma série de erros e imprecisões. Além disso, o número de erros quase não depende do nível do gerente, é uma certa constante. Só que o capataz dos carregadores comete pequenos erros, e o governador tem o direito de cometer erros de graves consequências. Nós entendemos isso. “Devíamos ter feito mal” é o principal resultado da reflexão do mundo que nos rodeia, incluindo nós próprios.

E agora, em nossas mãos está uma IA que supostamente "faz isso". E vamos aplicá-lo imediatamente, porque o problema que ele pode resolver teoricamente é o mais importante. E Jamshut, com três turmas de ensino, também é capaz de dirigir um caminhão.

Se você concorda comigo sobre isso, então vamos continuar apresentando a funcionalidade da pele artificial que se pretende administrar. Quais funções ele deve desempenhar, quem ele deve substituir ou pelo menos fortalecer com suas decisões?

É claro que esses serão funcionários (tanto da administração pública quanto dos negócios). Funcionários tomam decisões. Funcionários são aceitos em todos os níveis de competência. Os funcionários são importantes e necessários hoje, porque as decisões não são tomadas por si mesmas. Mas há um ponto.

Vejamos cada gerente (ou seja, cada funcionário) do ponto de vista do conteúdo literal de suas atividades práticas. Mas não no sentido de suas motivações - o arquétipo das motivações, por assim dizer, não deveria ser. Um oficial aprova transações ou cancela transações aprovadas por outro oficial.

Em uma máquina ideal, todas as transações devem ser aprovadas incondicionalmente e nenhuma transação pode ser cancelada porque foram previamente aprovadas legalmente. Um fator importante neste sistema é que as transações são submetidas ao oficial a partir da "caixa preta" para consideração. Ele não recebe uma explicação de por que tal transação deve ser realizada ou por que foi aprovada por outro funcionário. O sistema de controle é construído da seguinte forma. Acima vem uma ordem na forma de uma instrução para realizar uma série de transações.

Note que a estrutura ideológica de tal sistema não implica em nada a possibilidade de cancelar (não aprovar) uma transação recebida de cima, da "caixa preta". Mas, na prática, essa possibilidade sempre existe. E é ela quem fornece duas coisas mais importantes: o poder de qualquer funcionário e a contenção de tal poder.

Deixe-me explicar que qualquer erro (dissemos acima que eles são inevitáveis e permanentes) pode ser dissolvido na oposição das massas burocráticas subjacentes, então as consequências do erro podem ser minimizadas.

Porém, em um sistema de gestão ideal teórico não deveria haver erros, por isso o papel do funcionário se reduz à aprovação formal de transações, que ele não pode deixar de aprovar, porque são corretas. Ou seja, não há necessidade disso. Portanto, a questão se resume ao sinal de gerenciamento inicial. Se estiver correto, então não há sentido em todos os níveis inferiores.

Então, em tese, o orçamento consolidado do estado deveria funcionar. Quando é aceito, significa que toda a sua essência fractal é revelada. Cada capilar deve receber a porção de sangue atribuída e, em resposta - o resultado pretendido. Sim, no fundo há "mas não entregamos concreto no prazo e, portanto …" Mas, desculpe-me, isso está no fundo, e o aparato de controle consiste em muitos níveis que não tocam o concreto em tudo, eles operam com transações. Eu entendo que nos níveis intermediários "concreto não foi entregue" parece diferente, como "o vice-presidente da construção do cosmódromo roubou 100 milhões e, portanto …" Estou falando de um esquema ideal aqui.

Voltemos à nossa pele ideal. Afinal, nessa tarefa ele deve resolver os mesmos problemas - aprovação ou proibição de transações. E ele pode fazer isso! Só agora ele sozinho será capaz de substituir todos os níveis de gestão de uma vez. Afinal, se, em substituição ao ministro, ele aprovar uma grande transação em nível ministerial, então sua decisão deve ser reconhecida como correta. E inclui a análise de toda a distribuição posterior de uma grande transação até o pagamento da IP Pupkin para reparar a varanda do hospital psiquiátrico em Kineshma.

Portanto, toda a cadeia de funcionários que são obrigados a aprovar transações de níveis inferiores, seguindo desde o primeiro, pode ser substituída com segurança pelo mesmo algoritmo de IA. O problema já foi resolvido, até o fundo. Nossa IA nem mesmo precisa ser usada para substituir toda a cadeia, a IA simplesmente cancela a necessidade dela. Sua decisão é verdadeira porque está certa. E imediatamente inclui soluções para todo o fractal.

Observação. Qualquer funcionário subordinado em nosso mundo real pode ser mais inteligente do que um superior. Então ele sabotará as decisões do chefe, e então o ajudará. Este é sempre o caso. Todos os oficiais existentes ocupam os lugares de seus ex-superiores, exceto para o nível inicial. Mas, neste caso, a competição está fora de questão. Um iskin decide tudo ao longo de toda a cadeia sozinho, ele não pode se contradizer.

Além disso. Em nosso sistema de governança, existem tribunais aos quais atribuímos autoridade para cancelar qualquer uma de nossas transações e realizar as suas próprias, independentemente de nossa opinião sobre elas. (Colocar um assassino na prisão também é uma transação sujeita a regras. O juiz aqui é um oficial que aprova ou cancela uma transação que chega até ele conforme prescrito na caixa preta.) Se o nosso idiota é bom, ele é melhor do que os funcionários, porque confiamos a ele a aprovação ou o cancelamento das transações para eles (para nós). Então ele é melhor que os juízes. Do contrário, as decisões do iskin podem ser contestadas e canceladas pelas pessoas. E se as pessoas aceitarem isso, elas admitirão que a IA é pior do que as pessoas. Então, com base em que ele substitui funcionários?

Conclusão. Iskin também não será julgado. Novamente. Se vocês, humanos, escreveram seu melhor algoritmo, reconheceram-no tão bem que você deu a ele poder sobre si mesmo, então você não pode escrever um algoritmo ainda melhor para que julgue as decisões do primeiro. Você colocará seu melhor algoritmo como gerente e como juiz. Mais precisamente, os juízes simplesmente desaparecerão. Você terá que dar a esta IA total poder sobre você.

Aliás, a caixa-preta original, de onde saem os dados iniciais de controle para o ISK, também pode ser digitalizada. E ainda deve ser digitalizado. O orçamento consolidado deve ser o mais adequado. E ele faz isso também.

Outro momento. Ou talvez colocar uma pessoa acima da pessoa que controlaria suas decisões para que os erros que podem ocorrer devido à sua desumanidade, por exemplo, não aconteçam? - Então, todos os funcionários manterão seus cargos e seu poder. Eles também terão o direito de cancelar as transações aprovadas pelo ISK ou aprovar as canceladas. Infelizmente, não parece real. Iskin fornecerá uma impressão do raciocínio por trás de sua decisão. E uma pessoa não será capaz de refutar a lógica formal com seus sentimentos ou interesses. Mesmo neste caso, se um funcionário vivo for apegado a cada manifestação de um (na verdade, um único) ato, eles não poderão resistir a ele.

Desculpem a confusão, há muitos pensamentos e o comprimento do texto está crescendo irreparavelmente.

Quando o ISK é ligado, ocorre um colapso completo. Não, eu entendo que a princípio eles o colocam em modo de teste. Mas isso será uma profanação, porque então será necessário emular toda a sociedade, com todas as suas conexões como um todo, não um modelo simplificado, mas os debulhadores digitais não podem fazer isso.

Em seguida, ele será lançado em um modo limitado, no Território Perm condicional. Bugs, depuração, novo lançamento e produção?

Mas, mais cedo ou mais tarde, a fita vermelha será cortada e as pessoas poderão controlar o carro com força total (com a mão no interruptor).

E você sabe o que vai acontecer? Iskin encerrará todas as transações completamente. A lógica “se-então” irá colidir com milhões de normas regulatórias da legislação atual, que se contradizem dezenas de milhares de vezes. Finita. Nossos trens vão parar, o pagamento de uma lata de saury no supermercado não vai funcionar. Todos serão imediatamente indiciados por uma série de crimes e crimes que podem ser enviados às autoridades, mas todas as pessoas nas autoridades estarão sujeitas a demissão imediata e julgamento. As decisões do tribunal emitirão a reclamação imediatamente. Grande encontro, tudo está escrito sobre você. Ok, essas são as pequenas coisas. Mas eles também não vão poder repassar o seu salário, porque o escritório está devendo impostos e a carroça multa você.

Exagerando? Não. O primeiro lançamento (com a mão no switch) será controlado, teste dois, teste vinte e dois … E um dia será ligado por completo, como se tivesse passado no ciclo completo de testes. E então … E vamos demitir os funcionários, os voluntários vão salvar a situação.

É possível evitar essas conseqüências tristes? - Claro, você pode tentar. Para fazer isso, várias coisas devem ser feitas. Destrua 99% da legislação, recicle o 1% restante sem despejar o bebê com água. (Essas coisas geralmente são feitas depois de uma revolução completa com uma guerra civil completa. Como fazer isso em tempo de paz - não tenho ideia.) Além disso, a moralidade deve ser retrabalhada. Em termos de roubar um maço de papel do escritório (ou trair sua esposa), é perfeitamente aceitável (refletido na lei) ou envolve um limite de tempo. Essa moralidade deve ser refeita nas mentes da sociedade. Caso contrário, começará a cortar os cabos ópticos, o que é barato, simples e eficaz contra IA. Outra opção é jogar este isorno parecido com um parceiro provável, deixá-lo cortar as próprias mãos. E, é claro, as classes altas não devem se tornar inconvenientes. Se não conseguirem, usarão isso como última chance.

Não estou tentando convencê-lo a travar os computadores. Não iremos a lugar nenhum do iskin. Ele nos alcançará, teremos que nos envolver com ele. Vamos tentar compreender com o que (com quem) devemos entrar na batalha contra o nosso destino.