Серая биомасса

http://www.nytimes.com/2003/12/14/magazine/14GRAY.html

http://www.washingtonpost.com/news/morning-mix/wp/2014/11/18/why-elon-musk-is-scared-of-killer-robots/

“If ethics can’t be built into a machine, then we’ll be creating super-intelligent psychopaths, creatures without moral compasses, and we won’t be their masters for long,” James Barrat, author of “Our Final Invention: Artificial Intelligence and the End of the Human Era,” said earlier this year.

One nightmare scenario: “gray goo,” the catchy name for what happens when master machines designed to replicate themselves go haywire.

“Gray goo is what would happen if one of the auto-assemblers went haywire and the self-replication never stopped,” the New York Timesexplained in 2003. ” … In just 10 hours an unchecked self-replicating auto-assembler would spawn 68 billion offspring; in less than two days the auto-assemblers would outweigh the earth.”

Does Musk fear any or all of the above — redundancy, liquidation or gray goo — at the hands of AI? If so, he should just say so, preferably without references to Arnold Schwarzenegger films.

As crazy as gray goo sounds, people might think him less eccentric if he just talked about it.

https://ru.wikipedia.org/wiki/%D0%A7%D0%B5%D1%80%D0%B5%D0%B7_%D1%82%D0%B5%D1%80%D0%BD%D0%B8%D0%B8_%D0%BA_%D0%B7%D0%B2%D1%91%D0%B7%D0%B4%D0%B0%D0%BC_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC)
Умирающий Ракан решает погубить Туранчокса и из последних сил выпускает из секретной лаборатории института последнее детище Глана — биомассу (материал для будущих поколений населения Дессы). Биомасса крайне агрессивна и мгновенно распространяется, пожирая органику.  Биомасса быстро заполняет институт Глана, в недрах которого погибают Ракан и Туранчокс, и вырывается наружу. Это гибельно для всей планеты, поэтому земляне решают уничтожить её излучением с «Астры».