El 7 de abril de 1964 IBM anunció el IBM System 360 (S/360), un sistema de computación de la familia mainframe. Fue la primera familia de computadoras diseñada para cubrir las aplicaciones, independientemente de su tamaño o ambiente (científico o comercial). En el diseño se hizo una clara distinción entre la arquitectura y la implementación (estructura), permitiendo a IBM sacar una serie de modelos compatibles a precios diferenciales. Los modelos del S/360 anunciados en 1964 variaban en velocidad de 0,034 MIPS a 1,7 MIPS (50 veces la velocidad) y entre 8 Kb y 8 MB de memoria principal, aunque esta última capacidad fue muy inusual. El S/360 fue un gran éxito en el mercado, pues permitía a los clientes comprar un sistema más pequeño sabiendo que siempre podrían migrar hacia un sistema de mayor capacidad. Muchos consideran el diseño de este sistema como uno de los más importantes en la historia de las computadoras, ya que influyó en el diseño de las computadoras de años posteriores. El arquitecto jefe del S/360 fue Gene Amdahl.
Con el método de la industria, IBM creó una serie de computadoras, pequeñas y grandes, de alto a bajo rendimiento, con alta y baja potencia, todas ellas usando el mismo conjunto de comandos (con dos excepciones para los mercados específicos). Esto permitía a los clientes usar modelos más baratos y después ampliarlos a sistemas más potentes conforme se incrementaban sus necesidades sin pasar por el gasto excesivo de reescribir su software. IBM hizo el primer uso comercial de la tecnología de microcódigo para lograr esta compatibilidad, empleándola en todos sus modelos, con excepción de los modelos más potentes. Esta flexibilidad hizo desmarcarse a IBM de la competencia.
Inicialmente, IBM anunció una familia de seis computadoras y cuarenta periféricos. Finalmente entregó catorce modelos, incluyendo los modelos one-off para la NASA. El modelo más barato era el S/360-20, con tan solo 4 Kb de memoria principal, ocho registros de 16 bits en vez de los dieciséis registros de 32 bits del S/360 original, y un conjunto de instrucciones que era un subconjunto del usado por el resto de la gama.
Los clientes de IBM tenían una gran inversión en software que lograron ejecutar en la segunda generación de computadoras. Muchos modelos ofrecieron la opción de emulación de microcódigo de la computadora anterior del cliente (ejemplo IBM 1400 series en un S/360-30 o IBM 7094 en un S/360-65) de modo que los viejos programas podían funcionar en la nueva máquina. No obstante, los clientes tuvieron que parar la computadora y reiniciar en modo de emulación. El posterior S/370 conservó las opciones de emulación, pero permitió que se ejecutaran bajo control del sistema operativo junto a programas nativos.
La IBM S/360 es una de las primeras computadoras comerciales que usó circuitos integrados, y que podía realizar tanto análisis numéricos como tareas de administración y/o procesamiento de archivos. Se considera al S/360 el punto de partida para la tercera generación de computadoras.
Año 1988, en el Centro Único de Cómputos de Salta (CUPIS) vi una. Quedé babeando. Había AS400. Nos llevaron del secundario a una visita al Centro de Cómputos. De ahí en más supe qué iba a estudiar. Esta máquina (la 360) definió mi vida prácticamente. Ya era hardware dinosáurico en ese año, pero eso era lo máximo de tecnología en el interior del país en 1988.