El efecto de los cuellos de botella de Von Neumann en la inteligencia artificial

El cuello de botella de Von Neumann es el resultado natural del uso de un bus para transferir datos entre el procesador, la memoria, el almacenamiento a largo plazo y los dispositivos periféricos. No importa qué tan rápido el autobús realice su tarea, siempre es posible abrumarlo, es decir, formar un cuello de botella que reduce la velocidad. Con el tiempo, las velocidades del procesador continúan aumentando mientras que la memoria y otras mejoras del dispositivo se enfocan en la densidad, la capacidad de almacenar más en menos espacio. En consecuencia, el cuello de botella se convierte en un problema mayor con cada mejora, lo que hace que el procesador pase mucho tiempo inactivo.

Dentro de lo razonable, puede superar algunos de los problemas que rodean el cuello de botella de Von Neumann y producir aumentos pequeños, pero notables, en la velocidad de aplicación. Estas son las soluciones más comunes:

• Almacenamiento en caché: cuando se hicieron evidentes los problemas para obtener datos de la memoria lo suficientemente rápido con la arquitectura Von Neumann, los proveedores de hardware respondieron rápidamente agregando memoria localizada que no requería acceso al bus. Esta memoria parece externa al procesador pero como parte del paquete del procesador. Sin embargo, la caché de alta velocidad es cara, por lo que los tamaños de caché tienden a ser pequeños.
• Almacenamiento en caché del procesador: Desafortunadamente, los cachés externos aún no brindan suficiente velocidad. Incluso usar la RAM más rápida disponible y cortar el acceso al bus por completo no satisface las necesidades de capacidad de procesamiento del procesador. En consecuencia, los proveedores comenzaron a agregar memoria interna, una caché más pequeña que la caché externa, pero con un acceso aún más rápido porque es parte del procesador.
• Captación previa: el problema con los cachés es que solo resultan útiles cuando contienen los datos correctos. Desafortunadamente, los aciertos de caché resultan bajos en aplicaciones que usan una gran cantidad de datos y realizan una amplia variedad de tareas. El siguiente paso para hacer que los procesadores funcionen más rápido es adivinar qué datos requerirá la aplicación a continuación y cargarlos en la caché antes de que la aplicación los requiera.
• Uso de RAM especial: puede quedar enterrado por la sopa de letras de RAM porque hay más tipos de RAM de lo que la mayoría de la gente imagina. Cada tipo de RAM pretende resolver al menos parte del problema del cuello de botella de Von Neumann, y funcionan, dentro de ciertos límites. En la mayoría de los casos, las mejoras giran en torno a la idea de obtener datos de la memoria y subirlos al bus más rápido. Dos factores principales (y muchos menores) afectan la velocidad: la velocidad de la memoria (qué tan rápido la memoria mueve los datos) y la latencia (cuánto tiempo se tarda en localizar un dato en particular). Lea más sobre la memoria y los factores que la afectan.

Como ocurre con muchas otras áreas de la tecnología, la publicidad exagerada puede convertirse en un problema. Por ejemplo, el subproceso múltiple, el acto de dividir una aplicación u otro conjunto de instrucciones en unidades de ejecución discretas que el procesador puede manejar una a la vez, a menudo se promociona como un medio para superar el cuello de botella de Von Neumann, pero en realidad no lo hace. algo más que agregar gastos generales (empeorando el problema). El subproceso múltiple es una respuesta a otro problema: hacer que la aplicación sea más eficiente. Cuando una aplicación agrega problemas de latencia al cuello de botella de Von Neumann, todo el sistema se ralentiza. El subproceso múltiple garantiza que el procesador no pierda más tiempo esperando al usuario o la aplicación, sino que tiene algo que hacer todo el tiempo. La latencia de la aplicación puede ocurrir con cualquier arquitectura de procesador, no solo con la arquitectura de Von Neumann. Aún así,