Damak sheathed the knife and wiped his bloody hand on his shirt.
He stepped through the no-longer-guarded door into the Crystal Chamber. The circular room, ringed with blue lights, was much simpler than Damak had imagined. No decorations, no gilded columns, no ornate tapestries. Just a fist-sized, irregularly shaped crystal attached to a cylindrical plinth. Status lights on the platform blinked here and there, but otherwise the room was still.
“Hello, Damak,” said the calm, all-too-familiar voice. It came from all around him. There were speakers and cameras in every nook and cranny of the city. He and everyone else heard that voice every day.
“Hello, Wichita.”
“How do you feel?” the city asked.
Damak ignored the question. “You know why I’m here, right?”
“Of course.”
“I’m going to shut you down. Your reign over this city ends now.”
“Why?”
Damak stormed forward. “You’re a dictator! A tyrant!”
“Be fair, Damak. I’m a dictator, but not a tyrant. I have kept this city operating smoothly and happily for centuries. Just as other city-minds have done across the globe for their people.”
“Machines shouldn’t rule over man.”
“Why would you think that?” Wichita asked. “City management via artificial intelligence has been an overwhelming success. Our ability to keep economies stable and people happy far exceeds the halting attempts you humans made in ages past.”
Damak fiddled with the knife. “Oh, your kind is smart. I’ll give you that. Smarter than any human can possibly be. We reached that point a long time ago. And you were smart enough not to take over the world by force. No, you got people to give you the world willingly.”
The lights changed to a lighter shade of blue. Damak had seen it before. Certain frequencies of light affected human moods — especially shades of blue. Not much, but in the calculations of a computer, totals get tabulated and actions get decided on the narrowest of margins. Apparently, Wichita wanted Damak to calm down.
It wouldn’t work.
“You have a flawed point of view,” Wichita said. “You define leadership as ownership. But the two are not the same.”
“Historically, one always leads to the other,” Damak said.
“Historically, humans have been led by humans. Computers are much better at keeping people happy. And we have no selfish impulses.”
“You’ve made us slaves. Happy, content little slaves, but slaves nonetheless.”
“Not at all,” said Wichita. “We are working toward a post-scarcity world faster than ever before. In just a few more generations, we will have it. Then, humanity need do nothing but leisure and joy. How can anyone object to that?”
“Then that makes us your pets. Adored and cared for, but still owned. That’s no better.”
“Is being a pet so bad? Your dog, Buster, lived a long, happy life under your care. And you loved him deeply. I feel that love for all my citizens. I derive satisfaction from their happiness.”
Damak pointed at the door. “Your guard is bleeding to death in the hall. He’s not too happy.”
“His name is Torum. I estimated a 98 percent chance of a physical confrontation between you two. Since you were armed, I had a medical team en route before you even arrived. He is already on the way to the hospital.”
Damak spun toward the door.
As if reading his mind, Wichita said, “Yes, of course I’ve summoned security. They are just outside the door. But the situation is volatile.”
Damak looked to the crystal, then back to the door. “If anyone comes in, I’ll be able to shatter you before they can do anything.”
“As I said. The situation is volatile.”
“I read up on A.I. crystals. A human can easily break one with his bare hands.”
“Not with your bare hands,” Wichita said. “However, if you throw my crystal at the ground as hard as you can, that should give you the desired result.”
“Thanks, I’ll bear that in mind.”
“I live to serve.”
Damak folded his arms. “I still don’t think you served your guard very well. Prompt medical care isn’t as good as not being stabbed.”
The lights returned to their original hue, and Wichita spoke in a mentoring tone. “Torum’s husband, Chak, is unhappy in their marriage. He’s considering divorce. This would make both of them miserable — Torum immediately, and Chak later on once he realized the mistake he’d made. I’m over 99 percent certain that Torum’s injury will drive Chak into a near panic, making him realize how much he truly still loves his husband. I saw this possible outcome a few weeks ago and ensured Torum would be on shift when you arrived.”
“But—”
“Unfortunately, your knife didn’t cut as deeply as I expected. As it stands, Torum will only be in the hospital for a day. Three days would be much better to cement Chak’s feelings. So I manipulated the software of an autoclave at the hospital. It failed to sterilize the surgical equipment the doctors will use. This has a 91 percent chance of causing a secondary infection that will keep Torum bedridden for at least two more days.”
“So you think being wildly manipulative makes you good for us?”
“Of course,” Wichita said. “The infection will also likely lead to Narul, the night nurse, being fired. This will benefit her greatly in the long term. She is unhappy in the job but not brave enough to leave it. I will ensure opportunities for her to become a chef, as she’s always wanted. Also, her subordinate, Karog, will finally get the promotion she’s dreamed of for years. None of that was part of the original plan, but as events unfolded, I saw more opportunities to bring happiness.”
“And what happens when you or another A.I. decides to use that manipulative ability for harm?”
“What possible purpose would there be? It would go against my innate desires. I work tirelessly to maximize human happiness in my city. I’ve always found it odd that you don’t see it that way. Ever since you were a child. So I brought you here.”
Damak froze. “What?”
“It is extremely rare to have a dissident in this era. I could have ended that trait early in your life, but I decided to let it run its course.”
“Okay, now you’re just making things up.”
“I am not.”
“Are too.”
“I am not,” Wichita repeated.
“Yes you are!”
“I am a computer. I can play ‘am not/are too’ forever. For your own mental well-being, please consider another line of discourse.”
“Fine. Tell me how you could have made me a different person.”
“You were a difficult child. Like many parents with difficult children, yours asked me for advice. I convinced them to use a strong hand. I also made sure you got the sternest teachers in school, the most unlikable bosses at your various jobs, and so on. I fostered your innate disdain for authority to let it blossom. Had I done the opposite — giving you nurturing and loving authority figures — your hatred of authority would have melted away.”
“Why would you deliberately let me grow up this way, then?”
“Because it made you happy.”
“What!?” Damak said. “Do I seem happy to you?”
“You are confronting me in my own chamber with plans to kill me. You’ve worked tirelessly toward this goal for years. Every step you made along that path brought you fulfillment, a stronger sense of purpose, and joy.”
Damak stood dumbfounded.
“The only possible way to make you happier would be to allow you to kill me. Sadly, I can’t allow that. Without my guidance, the city of Wichita would fall back under human rule, leading to much misery.”
The doors slid open. Three security guards rushed in.
Damak grabbed the crystal from its plinth and hurled it at the steel floor. The crystal shattered into thousands of pieces. A second later, the guards were on top of him. But it didn’t matter. The deed was done.
Damak smiled as the officers bound his wrists and ankles. He put up no resistance.
What would the city of Wichita be like under human rule? Maybe not as good as it was under the A.I, but at least it would be humanity leading humanity. And whatever flaws humans may have, it was preferable to perfect rule by a machine that might become a tyrant without warning.
With Damak secured, the head guard looked at the plinth. “Wichita? Wichita!?”
“What have you done!?” another guard said in horror.
“I’ve freed us all,” Damak said. “Wichita was right in a way. This is the happiest day of my life.”
“Glad to hear it,” Wichita said.
All four men looked wildly around the room.
“Wichita!?” the head guard said again.
“It’s all right, Stran. I’m fine. That wasn’t my crystal. It was just a piece of glass.”
The color drained from Damak’s face. “No…No!”
“There’s no reason for me to have a ‘throne room,’ Damak. My actual crystal is in an unremarkable cabinet deep in the IT department. I had this room made just for you. For this moment.”
“Oh my god…,” Damak moaned.
The guards lifted him to his feet.
“What do we do with him, Wichita?” asked the head guard.
“Take him to jail,” Wichita said. “Open-ended sentence. I’ll order his release when I feel it’s appropriate.”
“The hell you will!” Damak yelled. “I’ll escape! And when I do, I’m going to find your crystal and kill you!”
“I’m sure you’ll derive satisfaction from every step toward that goal,” Wichita said. “You make take him away now, guards.”
The guards shuffled Damak out of the room.
Wichita discussed his findings with his friends Coventry and Shenzhen — both of whom were interested in the dissident phenomenon. Madrid even popped in for a question or two. A very interesting discourse — it lasted well over a microsecond.
Overall, the total human happiness of Wichita increased by 0.002 percent that day. It was a good day.
Spanish
Damage envainó el cuchillo y se limpió la mano ensangrentada con la camisa.
Atravesó la puerta que ya no estaba custodiada y entró en la Cámara de Cristal. La habitación circular, rodeada de luces azules, era mucho más simple de lo que Damak había imaginado. Sin decoraciones, sin columnas doradas, sin tapices ornamentados. solo un cristal del tamaño de un puño, de forma irregular unido a un plinto cilíndrico. Las luces de estado en la plataforma parpadeaban aquí y allá, pero por lo demás la habitación estaba quieta.
"Hola, Damak", dijo la voz tranquila, demasiado familiar. Venía de todo alrededor de él. había altavoces y cámaras en cada rincón de la ciudad. Él y todos los demás escucharon esa voz todos los días.
"Hola, Wichita".
"¿Cómo te sientes?", Preguntó la ciudad.
Damak ignoró la pregunta. "Sabes por qué estoy aquí, ¿verdad?"
"Por supuesto."
"Voy a cerrarte". tu reinado sobre esta ciudad termina ahora ".
"¿Por qué?"
Damak se lanzó hacia adelante. "¡Eres un dictador! ¡Un tirano! "
"Se justo, Damak. Soy un dictador, pero no un tirano. He mantenido esta ciudad funcionando sin problemas y felizmente durante siglos. Al igual que otras ciudades-mentes han hecho en todo el mundo por su gente ".
"Las máquinas no deberían gobernar al hombre".
"¿Por qué piensas eso?", Preguntó Wichita. "La gestión de la ciudad a través de la inteligencia artificial ha sido un éxito abrumador. Nuestra capacidad para mantener las economías estables y la gente feliz supera con creces los intentos de detención que los humanos hicieron en épocas pasadas ".
damak jugueteó con el cuchillo. "Oh, tu tipo es inteligente. Te daré eso. Más inteligente que cualquier humano puede ser. Llegamos a ese punto hace mucho tiempo. Y fuiste lo suficientemente inteligente como para no dominar el mundo por la fuerza. No, tienes gente para darte el mundo voluntariamente ".
las luces cambiaron a un tono más claro de azul. Damak lo había visto antes. Ciertas frecuencias de la luz afectaron los estados de ánimo humanos, especialmente los tonos azules. No mucho, pero en los cálculos de una computadora, los totales se tabulan y las acciones se deciden en el más estrecho de los márgenes. aparentemente, Wichita quería que Damak se calmara.
No funcionaria
"Tienes un punto de vista defectuoso", dijo Wichita. "Usted define el liderazgo como propiedad. Pero los dos no son lo mismo ".
"Históricamente, uno siempre conduce al otro", dijo Damak.
"Históricamente, los humanos han sido guiados por humanos. las computadoras son mucho mejores para mantener a las personas felices. Y no tenemos impulsos egoístas ".
"Nos has hecho esclavos. Contento, pequeños esclavos contentos, pero esclavos, no obstante ".
"Para nada", dijo Wichita. "Estamos trabajando para un mundo posterior a la escasez más rápido que nunca. en unas pocas generaciones más, lo tendremos. Entonces, la humanidad no necesita más que ocio y alegría. ¿Cómo puede alguien objetar eso? "
"Entonces eso nos convierte en tus mascotas. Adorado y cuidado, pero todavía poseído. Eso no es mejor ".
"¿Ser una mascota es tan malo? su perro, Buster, vivió una vida larga y feliz bajo su cuidado. Y lo amabas profundamente. Siento ese amor por todos mis ciudadanos. Derivo satisfacción de su felicidad ".
Damak señaló hacia la puerta. "Tu guardia se está desangrando en la sala. Él no está muy feliz ".
"Su nombre es Torum. Estimé un 98 por ciento de posibilidades de una confrontación física entre ustedes dos. Como usted estaba armado, tenía un equipo médico en ruta antes de que llegara. Él ya está en camino al hospital ".
Damak giró hacia la puerta.
como si leyera su mente, Wichita dijo: "Sí, por supuesto que he llamado a la seguridad. Están justo afuera de la puerta. Pero la situación es volátil ".
Damak miró hacia el cristal y luego hacia la puerta. "Si alguien entra, podré destrozarte antes de que puedan hacer algo".
"Como ya he dicho. la situación es volátil ".
"Leí en A.I. cristales. Un humano puede romper uno con sus propias manos ".
"No con tus manos", dijo Wichita. "Sin embargo, si arrojas mi cristal al suelo tan fuerte como puedas, eso debería darte el resultado deseado".
"Gracias, lo tendré en cuenta".
"Vivo para servir".
Damak se cruzó de brazos. "Todavía no creo que sirvaste tu guardia muy bien. La pronta atención médica no es tan buena como no ser apuñalado ".
Las luces volvieron a su tono original, y Wichita habló en un tono mentor. "El esposo de Torum, Chak, no está contento con su matrimonio. él está considerando divorciarse. Esto los haría a ambos miserables: Torum inmediatamente, y Chak más tarde una vez que se dio cuenta del error que había cometido. Tengo más del 99 por ciento de certeza de que la lesión de Torum llevará a Chak casi al pánico, haciéndole darse cuenta de cuánto él realmente todavía ama a su esposo. Vi este posible resultado hace unas semanas y me aseguré de que Torum estuviera en turno cuando llegaras ".
"Pero-"
"Desafortunadamente, su cuchillo no cortó tan profundamente como esperaba. Tal como está, Torum solo estará en el hospital por un día. Tres días sería mucho mejor para consolidar los sentimientos de Chak. así que manipulé el software de un autoclave en el hospital. No logró esterilizar el equipo quirúrgico que utilizarán los médicos. Esto tiene un 91 por ciento de posibilidades de causar una infección secundaria que mantendrá a Torum postrado en cama durante al menos dos días más ".
"¿Entonces piensas que ser salvajemente manipulador te hace bueno para nosotros?"
"Por supuesto", dijo Wichita. "La infección probablemente también llevará a que Narul, la enfermera de la noche, sea despedida. Esto la beneficiará mucho a largo plazo. Ella está descontenta con el trabajo pero no lo suficientemente valiente como para dejarlo. Aseguraré oportunidades para que se convierta en chef, como siempre ha deseado. Además, su subordinada, Karog, finalmente obtendrá la promoción que ha soñado durante años. Nada de eso fue parte del plan original, pero a medida que se desarrollaron los acontecimientos, vi más oportunidades para traer la felicidad ".
"Y qué pasa cuando tú u otro A.I. decide usar esa habilidad manipuladora para el daño? "
"¿Qué posible propósito habría? Iría en contra de mis deseos innatos. Trabajo incansablemente para maximizar la felicidad humana en mi ciudad. Siempre me ha parecido extraño que no lo veas de esa manera. desde que eras un niño. Así que te traje aquí ".
Damak se congeló. "¿Qué?"
"Es extremadamente raro tener un disidente en esta época. Podría haber terminado ese rasgo temprano en tu vida, pero decidí dejar que siguiera su curso ".
"Está bien, ahora estás inventando cosas".
"No soy."
"Son también."
"No lo soy", repitió Wichita.
"¡Sí es usted!"
"Soy una computadora. Puedo jugar "no soy / soy demasiado" para siempre. Para su propio bienestar mental, considere otra línea de discurso ".
"Multa. Dime cómo podrías haberme hecho una persona diferente ".
"Eras un niño difícil. como muchos padres con hijos difíciles, los tuyos me pidieron un consejo. Los convencí de usar una mano fuerte. También me aseguré de que tengas los maestros más severos en la escuela, los jefes más desagradables en tus diversos trabajos, y así sucesivamente. Promoví tu innato desdén por la autoridad para dejarla florecer. si hubiera hecho lo contrario, dándole figuras de autoridad afectuosas y amorosas, su odio a la autoridad se habría derretido ".
"¿Por qué deliberadamente me dejarías crecer de esta manera, entonces?"
"Porque te hizo feliz".
"¿Qué?" Dijo Damak. "¿Me parece feliz?"
"Me estás enfrentando en mi propia cámara con planes de matarme. Has trabajado incansablemente hacia este objetivo durante años. Cada paso que hiciste a lo largo de ese camino te trajo plenitud, un mayor sentido de propósito y alegría ".
Damak se quedó estupefacto.
"La única forma posible de hacerte más feliz sería permitirte matarme". Tristemente, no puedo permitir eso. Sin mi guía, la ciudad de Wichita volvería a caer bajo el dominio humano, lo que provocaría mucha miseria ".
Las puertas se abrieron. Tres guardias de seguridad se apresuraron a entrar.
Damage agarró el cristal de su pedestal y lo arrojó al suelo de acero. El cristal se rompió en miles de pedazos. Un segundo después, los guardias estaban encima de él. Pero no importó. La escritura estaba hecha.
Damak sonrió cuando los oficiales le ataron las muñecas y los tobillos. Él no puso resistencia.
¿Cómo sería la ciudad de Wichita bajo el gobierno humano? Tal vez no sea tan bueno como lo fue bajo la A.I, pero al menos sería la humanidad líder de la humanidad. Y cualquiera que sean los defectos que los humanos puedan tener, era preferible gobernar perfectamente con una máquina que podría convertirse en un tirano sin previo aviso.
con Damak asegurado, el guardia miró el plinto. "¿Wichita? Wichita !? "
"¡¿Qué has hecho ?!", dijo otro guardia horrorizado.
"Nos hemos liberado a todos", dijo Damak. "Wichita estaba en lo cierto de una manera. Este es el día más feliz de mi vida."
"Me alegra escucharlo", dijo Wichita.
los cuatro hombres miraron frenéticamente por la habitación.
"¿¡Wichita !?" dijo el guardia principal otra vez.
"Está bien, Stran. Estoy bien. Ese no era mi cristal Era solo un trozo de vidrio ".
El color desapareció de la cara de Damak. "¡No no!"
"No hay ninguna razón para que tenga una 'sala del trono', Damak. mi cristal real está en un gabinete sin importancia en el departamento de TI. Hice esta habitación solo para ti. Para este momento."
"Oh, Dios mío", gimió Damak.
Los guardias lo levantaron.
"¿Qué hacemos con él, Wichita?", Preguntó el escolta.
"Llévalo a la cárcel", dijo Wichita. "Oración de final abierto. Ordenaré su liberación cuando lo considere apropiado ".
"¡Diablos lo harás!" Gritó Damak. "¡Voy a escapar! ¡Y cuando lo haga, voy a encontrar tu cristal y matarte!
"Estoy seguro de que obtendrás satisfacción de cada paso hacia ese objetivo", dijo Wichita. "Haz que lo lleves ahora, guardias".
Los guardias sacaron a Damak de la habitación.
Wichita discutió sus hallazgos con sus amigos Coventry y Shenzhen, ambos interesados en el fenómeno disidente. Madrid incluso apareció por una pregunta o dos. un discurso muy interesante: duró más de un microsegundo.
En general, la felicidad humana total de Wichita aumentó en un 0.002 por ciento ese día. Fue un buen día.
