Nunca fue un estudiante brillante, sino que más bien prestaba la suficiente atención para obtener un  promedio aceptable en la secundaria que hizo en una de las mejores escuelas privadas. Ya en el penúltimo año logró tener  la mayor calificación en Matemáticas cuando presentó sus exámenes de admisión a la universidad, hecho que le hizo descubrir su verdadero potencial académico. A partir de allí sus calificaciones mejoraron y logró entrar a la Universidad de Harvard, alma mater de su padre.

Aún cuando estaba en la universidad, no centró su prioridad en los estudios. McNealy demostraba sus preferencias en el área de la cerveza y el golf, llegando a ser el capitán del equipo de golf de Harvard.

Cuando salió de Harvard, McNealy estuvo en la gerencia de un compañía de manufacturación llamada Rockwell International, destacándose por manejar un equipo de una línea de montaje conformada por trabajadores  conocídos como “rompehuelgas”. Después  se desempeñó en forma eficiente como Ingeniero del Departamento de Control Confiabilidad, que hacía frente a las quejas de los fabricantes de automóviles y recorrió la región como representante de ventas de la fabrica.

En 1978 , en su tercer intento, fue aceptado en la Escuela de Negocios de la Universidad de Standford, en California, en la que se gradúo en 1980.

Inmediatamente se incorporó como aprendiz en una planta fabril del Valle del Silicio que fabricaba vehículos de guerra Bradley para el ejercito estadounidense.

Mientras tanto la revolución de los microprocesadores estaba comenzando  y Apple Computer, junto con otras compañías comenzaban a sacudir el mundo empresarial con sus máquinas. 

En 1981, una pequeña empresa que producía estaciones de trabajo, llamada Onyx, contrato a McNealy como Gerente de Manufactura.

Poco después de ésto y cuando ya McNealy pudo analizar  que el proceso de fabricación de una computadora no era tan complejo, recibió la llamada de un excompañero de clase de la universidad que le habló de un proyecto llamado SUN (Iniciales de Stanford University Network) que consistía en comercializar una estación de trabajo que se había creado para red informática de Stanford.

Aunque a McNealy le faltaban algunos conocimientos de electrónica básica, fue contratado como Vicepresidente de Operaciones y Manufactura; y en dos años ya era el flamante Presidente Ejecutivo de Sun Microsystems.

El éxito de Sun fué tan espectacular en un comienzo, que la empresa creció muy rápido y llegó a manufacturar tantos productos que sus fábricas , -prácticamente-, se paralizaron al no poder dar más y eso obligó a McNealy a mudar su oficina a la fabrica más grande y a reformar la estructura manufacturera de la compañía.

A los pocos meses , la producción iba nuevamente sobre ruedas y McNealy empezó a demostrar otras habilidades que nadie esperaba de un ratón de fábrica.

Diseñó un chip de alta potencia que llamó SPARC y centró toda la fuerza de trabajo en las estaciones construidas alrededor de éste procesador. Redujo considerablemente la línea de productos de Sun y en 1992 superó la marca de US$3.000 millones en ventas anuales.

Aunque aparentemente todo iba bien en la mayoría de compañías manufactureras de estaciones de trabajo para red,  Sun y sus rivales de  Unix estaban vendiendo ménos de un millón de unidades al año, mientras que la alianza Wintel se aproximaba a los 10 millones de computadoras personales al año. La industria informática había dado un giro decisivo que la alejaba del camino de Sun. Esta situación hizo que McNealy hiciera un análisis en el que concluyo que el verdadero rival de Sun era Bill Gates y no los otros fabricantes de computadoras personales y estaciones de trabajo. Gates estaba promoviendo una nueva versión de Windows llamada NT, que significaba “Nueva Tecnología” y que se esperaba que igualara el poder de Unyx. Gates utilizaba su creciente popularidad y sus buenas relaciones con los medios de comunicación para decir lo que quería.

McNealy se dió cuenta que, aunque SUN era un “dinosaurio” de buenas realizaciones y superioridad técnica, necesitaba provocar un gran alboroto para contrarrestar las acciones de Gates. Comenzó dirigiendo todos sus ataques contra Microsoft, ridiculizando sus productos y haciéndolos aparecer como complicados, poco confiables, comparándolos con los Trabants, destartalados autos que se fabricaban hace tiempo en Alemania del Este. Promovió el lema –“la red es la computadora”- para disminuir la importancia que estaba adquiriendo la computadora personal, lo que creó cierta confusión en la gente. 

En 1995, después del brillante lanzamiento de Microsoft con Windows 95, McNealy financió en secreto los esfuerzos de un grupo de compañías del Valle del Silicio para que el gobierno Federal emprendiera una acción antimonopolista en contra de Microsoft. Pero su intento... fracasó.