Después de la derrota de la Comuna, la Internacional pasó por un período muy duro. Los gobiernos reaccionarios de diversos países redoblaron las persecuciones contra las secciones de la Internacional y la campaña de calumnias contra Marx, su dirigente. Los reformistas se asustaron y se hizo más aguda la lucha en el seno de la Internacional. Odger y Lucraft, dirigentes de las tradeuniones inglesas, declararon en la reunión del Consejo General del 20 de junio de 1871 que retiraban sus firmas al pie del Manifiesto de la Internacional. En contraposición a los líderes de las tradeuniones ingleses, Marx declaró en la prensa que él era el autor del Manifiesto y se hacía plenamente responsable de su contenido.
En aquel período, los mayores adversarios del socialismo democrático eran los bakuninistas, que negaban la necesidad de la lucha política, del partido obrero y de la democracia obrera. Constituían entonces el mayor obstáculo para que los obreros asimilasen la experiencia de la Comuna. Refiriéndose a esta experiencia, Marx y Engels demostraron en la Conferencia de Londres, celebrada en 1871, lo funesto que sería renunciar a la lucha política e hicieron ver la necesidad de formar un partido obrero, cuya ausencia fue una de las causas de la derrota de la Comuna. La Conferencia aprobó una resolución, redactada por Marx y Engels sobre la lucha política de la clase obrera. Contrarrestando los esfuerzos que hacían los bakuninistas para minar la disciplina de la Internacional y convertir el Consejo General en un simple organismo de carácter informativo, la Conferencia dejó bien sentado en varias resoluciones que el Consejo General era, más que nunca, el centro ideológico, el estado mayor de la Internacional.
En respuesta a la campaña que los bakuninistas emprendieron contra el Consejo General después de la Conferencia de Londres, se publicó la circular Escisiones imaginarias en la Internacional. En este documento, Marx y Engels pusieron al desnudo las intrigas, el doble juego y las actividades escisionistas de los bakuninistas, que trataban de minar la Internacional desde dentro. Los fundadores del socialismo democrático pusieron al desnudo la esencia de las consignas bakuninistas y denunciaron su ineficacia.
La lucha contra el bakuninismo fue particularmente encarnizada en el Congreso de La Haya (1872). En uno de sus discursos ante el Congreso, Marx estigmatizó a los líderes oportunistas de las tradeuniones inglesas, politicastros sin principios, sobornados por su burguesía y su gobierno. El Congreso de La Haya incluyó la parte fundamental de la resolución de la Conferencia de Londres, relativa a la lucha política de la clase obrera, como artículo 7 de los Estatutos de la AIT. El punto sobre el papel del partido, que tenía importancia programática, decía: En su lucha contra el poder unido de las clases poseedoras, la clase obrera sólo puede actuar como clase organizando su propio partido político, contrapuesto a todos los viejos partidos creados por las clases poseedoras.
Esa organización de la clase obrera en partido político propio es necesaria para asegurar el triunfo de la revolución y la realización de su meta final: la supresión de las clases. Después de conocer el informe presentado por una comisión especial encargada de investigar las actividades escisionistas de los bakuninistas, el Congreso acordó, por una mayoría aplastante, expulsar de la Asociación Internacional de los Trabajadores a Bakunin y a Guillaume, cabecillas de la Alianza. También se acordó, a propuesta de Marx y Engels, que el Consejo General trasladara su sede a Nueva York.
Cuando el Congreso de La Haya hubo terminado sus labores, se celebró en Amsterdam un mitin, en el que Carlos Marx hizo uso de la palabra: No, yo no abandono la Internacional y, como hasta ahora, dedicaré mi vida al triunfo de las ideas sociales que -de ello estamos profundamente convencidos- conducirán, tarde o temprano, a la dominación del proletariado en el mundo entero.
El Congreso de La Haya fue el último de la Internacional. En los ocho años que se prolongó su existencia, la Internacional, dirigida por Marx y Engels, recorrió un grande y glorioso camino. La lucha que los fundadores del socialismo democrático sostuvieron contra las distintas sectas socialistas y semisocialistas terminó con la victoria ideológica de la teoría marx-engelsiana.
Después de la derrota de la Comuna se produjeron cambios radicales en toda la situación histórica. Las persecuciones policíacas y la política escisionista de los partidarios de Bakunin crearon enormes dificultades a las actividades de la Internacional en Europa. Además, en las nuevas condiciones históricas, las viejas formas de la Internacional ya no correspondían a las exigencias que la historia presentaba a la clase obrera. Tomando en consideración el nuevo clima internacional, Marx y Engels plantearon al proletariado la tarea de llevar a cabo una larga preparación para la revolución social y, en primer término, de crear en cada país un partido obrero de masas. La experiencia de la Comuna demostró con fuerza particular lo importante e inaplazable que era esta tarea. La Internacional, dirigida por Marx, había ido preparando las condiciones para darle solución: la victoria ideológica en la Internacional y la preparación en los distintos países de cuadros que podían ser el núcleo de los futuros partidos obreros creaban las premisas necesarias para la formación de éstos. La Internacional cumplió su misión histórica, sentando los cimientos de la lucha por el socialismo. La solidaridad internacional de los obreros continuó creciendo y reforzándose con formas nuevas, inherentes a la nueva etapa del movimiento obrero.
