¿La inteligencia artificial realmente dañará a los humanos?
Frente a la "marea de inteligencia artificial" sin precedentes en el mundo de la tecnología, gigantes tecnológicos como Musk y Gates no pueden quedarse quietos. En agosto de 2014, Musk publicó un estado en Twitter: "Vale la pena leer el libro Superinteligencia de Bostrom. Debemos ser muy cautelosos con la inteligencia artificial. Su potencial puede ser más poderoso que una bomba nuclear". Gates también dijo en un evento reciente que las máquinas reemplazarán a los humanos en una variedad de trabajos y que si podemos manejarlas bien, deberían poder desempeñar un papel positivo. Sin embargo, en unas pocas décadas la inteligencia artificial avanzará a niveles preocupantes.
Peligros ocultos de la inteligencia artificial: puede tener un impacto en el sistema social existente
A principios de febrero, el Future of Life Research Institute (Future of Life), que se compromete a "Reducir los riesgos existentes que enfrenta la humanidad" Cientos de científicos destacados del Instituto firmaron una carta abierta pidiendo a la comunidad científica y tecnológica que examine a fondo el impacto del desarrollo de la inteligencia artificial en la sociedad humana y al mismo tiempo promueva el desarrollo de la inteligencia artificial.
Los autores de la carta reconocen que la inteligencia artificial ha logrado un éxito notable en áreas como el reconocimiento de voz, la clasificación de imágenes, los vehículos autónomos, la traducción automática y los sistemas de respuesta a preguntas, y creen que estos estudios pueden ayudar eliminar enfermedades y pobres. Pero insisten en que "los sistemas de inteligencia artificial deben hacer lo que queremos que haga" y la comunidad científica debería establecer el objetivo de investigación de "ayudar a maximizar los beneficios sociales de la inteligencia artificial".
La carta abierta enfatiza que la inteligencia artificial puede afectar a la sociedad en los campos de la seguridad informática, la economía, el derecho, la filosofía y otros campos en el futuro, pero es este potencial omnipresente el que puede desencadenar varias crisis. Por ejemplo, los científicos creen que si algunas partes de la economía se automatizan en el futuro, los trabajadores y sus salarios se verán muy afectados, y los expertos en inteligencia artificial tendrán que prestar atención a esto. La inteligencia artificial debería enfrentar las siguientes preguntas: ¿Las armas letales autónomas cumplen con el derecho humanitario? ¿Cómo evitar violaciones de la privacidad cuando los sistemas de inteligencia artificial recopilan datos de cámaras de vigilancia, líneas telefónicas y correos electrónicos?
Un grupo de académicos de la Universidad de Oxford en el Reino Unido escribió en un blog el año pasado: "Cuando una máquina comete un error, su patrón de error puede ser más dramático que el error humano, y puede llevar a "Un algoritmo simple es en gran medida predecible, pero en circunstancias inusuales puede tomar decisiones extrañas". Compare estos problemas con los problemas de la vida real, considera el destacado científico Hawking. Más a largo plazo. Hawking dijo en una entrevista con la BBC que si la tecnología tuviera capacidades similares a las de los humanos, "perdería el control y se rediseñaría a un ritmo acelerado. Lo que es aún más aterrador es que debido a limitaciones de importancia biológica, los humanos no pueden seguir el ritmo de la tecnología". velocidad del desarrollo tecnológico." Hawking expresó su preocupación por el futuro de la humanidad: "Debido a las limitaciones de la lenta evolución biológica, los humanos no pueden competir con las máquinas y serán reemplazados. Todos los avances en la inteligencia artificial pueden conducir al fin de la humanidad". /p>
De los comentarios de estos científicos se desprende que las preocupaciones de la comunidad científica y tecnológica sobre la inteligencia artificial provienen principalmente de dos aspectos: por un lado, los cambios de la inteligencia artificial al trabajo y estilo de vida humanos pueden afectan el sistema legal existente, las normas éticas y los métodos de distribución de ganancias. , y la velocidad del cambio humano puede no seguir el ritmo del desarrollo de la inteligencia artificial, lo que afectará el sistema social existente y conducirá al caos. Por otro lado, la inteligencia artificial hará que los humanos piensen cada vez menos, y al mismo tiempo; Al mismo tiempo, pueden volverse cada vez más inteligentes, amenazando así la supervivencia de la humanidad.
¿Se cumplió la profecía? La "teoría de la destrucción" es algo alarmista.
El presidente de Google, Schmidt, tomó la iniciativa al refutar los comentarios hechos por Musk, Gates, Hawking y otros. La identidad de Schmidt es muy especial.
Como presidente de Google, ha participado personalmente en el desarrollo de muchos de los sistemas de inteligencia artificial más complejos del mundo, desde vehículos autónomos hasta el motor de búsqueda predictivo de Google. Google incluso lanzó su propio laboratorio de robótica el año pasado. Schmidt cree que todas las preocupaciones acerca de que las máquinas eliminen puestos de trabajo humanos y se apoderen del mundo son infundadas, y espera que la gente se dé cuenta de que los robots se convertirán en nuestros amigos.
Schmidt dijo: "Es normal preocuparse por la inteligencia artificial. Pero mirando hacia atrás en la historia, encontrará que están absolutamente equivocados. Solo esperamos vestirnos mejor a través de métodos más mecanizados, experiencia histórica Demuestra que la mayor parte de la prosperidad económica del pasado fue causada por la adopción de nuevas tecnologías".
El vicepresidente de IBM, Wang Yang, dijo una vez a Tencent que cuando la tecnología avanza a pasos agigantados, siempre hará que las personas Tengo miedo, pero es realmente importante. Son las personas las que dominan la tecnología. "Siempre hay tipos malos que causarán problemas con las nuevas tecnologías". El desarrollo de la tecnología es imparable. Por ejemplo, en los éxitos de taquilla de Hollywood, a menudo vemos fuerzas malignas que abusan de las tecnologías de alta tecnología, pero los humanos deben dominarlas lo antes posible para resistir la invasión de personas injustas. En resumen, inevitablemente habrá debates sobre el desarrollo de nuevas tecnologías, pero el progreso científico siempre traerá un futuro mejor para la humanidad. "
Tony Cohen es profesor de razonamiento automatizado en la Universidad de Leeds. La inteligencia artificial completa "todavía está muy lejos", afirmó. A juzgar por el ritmo de desarrollo actual, creo que llevará casi cien años. Cohen cree que a pesar de los grandes avances en los programas de reconocimiento y el reconocimiento de voz, los robots no funcionan bien en entornos abiertos y caóticos. El mayor obstáculo para la inteligencia artificial al final es que "las máquinas serán máquinas después de todo". ”
A los ojos de la mayoría de la gente, la afirmación de que “la inteligencia artificial destruirá a la humanidad” parece un poco exagerada. La tecnología existente sólo puede permitir que las máquinas hagan algunas cosas básicas, como algunas acciones fijas en la producción. línea, e incluso Los sistemas inteligentes de los automóviles sin conductor no son perfectos, y mucho menos la inteligencia artificial con pensamiento y emoción, lo que puede representar una amenaza para la supervivencia humana. Sin embargo, una cosa no se puede ignorar a medida que avanza la tecnología: la inteligencia artificial automatizada se volverá más. Y lo que es más importante, al aparecer cada vez más en nuestro trabajo y en nuestra vida, es muy probable que en un futuro próximo las máquinas sustituyan los trabajos humanos.
Los coches autónomos son la inteligencia artificial más cercana a nosotros, pero lo son. Hay muchos desafíos más allá de los factores técnicos, por ejemplo, cuando el automóvil autónomo de Google tuvo un accidente automovilístico que causó graves consecuencias, ¿fue el propietario del automóvil, Google o el algoritmo de conducción, los sensores y todos los sistemas de control? responsable del accidente de tráfico?, el sistema legal existente no ha logrado seguir el ritmo del desarrollo de la sociedad moderna, las empresas o los robots, y no puede dar una respuesta clara.
También deberíamos pensar en qué. qué haremos cuando los robots dejen sin empleo a un gran número de trabajadores. ¿Qué debemos hacer? ¿Cómo aclaran las leyes existentes la responsabilidad cuando los robots funcionan mal? ¿Cómo podemos evitar que los piratas informáticos utilicen la inteligencia artificial para cometer delitos?