C’est par la question nationale que Rosa Luxemburg effectue son entrée sur la scène internationale, en tentant de faire obstacle en 1896 à la volonté du Parti socialiste polonais (PPS) de faire de l’indépendance de la Pologne l’un des objectifs de l’Internationale. Lutte contre le nationalisme qui la situe dans le camp des internationalistes intransigeants mais qui n’est pas pour autant synonyme d’indifférence au phénomène national. La même année, en effet, à propos de la question d’Orient et du massacre des Arméniens, elle réaffirme sa lecture du marxisme en matière nationale : soutenir les mouvements de libération en se situant résolument du côté des opprimés mais tenir compte, ce faisant, de l’objectif prioritaire que constitue la défense des intérêts de classe du prolétariat.
Elle ne cesse de ferrailler contre le « social-patriotisme » du parti rival, le PPS dont l’aile droite, dirigée par Pilsudski, finit par présider aux destinées de la Pologne indépendante dans l’entre-deux-guerres, tandis que l’aile gauche, le PPS-Lewica, rejoint la Social-démocratie du Royaume de Pologne et de Lituanie (SDKPiL), le parti de Rosa Luxemburg, pour former, après la grande guerre, le Parti communiste polonais.
L’enjeu organisationnel est de taille, non seulement dans la « grande » Internationale, mais aussi dans la petite Internationale qu’est le Parti ouvrier social-démocrate de Russie (POSDR). Jusqu’à son deuxième congrès en 1903 l’indécision demeure sur la question de savoir qui, du PPS ou de la SDKPiL, en fera partie. La question n’est pas tranchée en 1903. Le PPS se rapproche plutôt de la nébuleuse socialiste révolutionnaire. Au congrès de 1903, connu pour la scission entre bolcheviks et mencheviks, le débat s’articule autour de l’opposition entre organisations nationales ou territoriales, donc autour du problème de la fédération. Ne voulant pas se fondre dans des comités locaux nationalement indifférenciés, la SDKPiL quitte le congrès avant même qu’il ne se déplace de Bruxelles à Londres. Le Bund, parti ouvrier juif, fait de même à Londres.
C’est alors que s’amorce un différend crucial entre les partisans du droit à l’autodétermination nationale et ceux qui proposent la création d’« institutions garantissant la liberté du développement culturel national », formule avancée par la SDKPiL et reprise par le Bund. Luxemburg n’assiste pas à ce congrès, mais elle énonce les directives auxquelles les délégués de la SDKPiL doivent se conformer ; ses prises de position se situent plutôt sur le versant polonais qu’allemand de son action. Elle explique son refus du droit à l’autodétermination par l’intégration, l’interdépendance économique des différentes nations qui composent l’empire russe ; dans le caractère illusoire, à l’ère impérialiste, d’une indépendance des petites nations qui ne peut qu’être préjudiciable au prolétariat. Lénine insiste plutôt (selon la formule des pères fondateurs qui veut qu’une nation qui en opprime une autre ne peut se libérer elle-même) sur le caractère émancipateur du droit à l’autodétermination.
Les positions de Rosa Luxemburg ne sont pas pour autant figées : avec la révolution de 1905 dans l’empire russe, elle prend conscience de l’importance du sentiment national et de ses potentialités révolutionnaires en Pologne. Elle énonce alors un des présupposés de sa démarche : la nécessité de faire sortir les certitudes du mouvement ouvrier du coffret où elles sont conservées comme un trésor. Elle contribue à élaborer la revendication d’autonomie territoriale pour la Pologne.
On a longtemps considéré que Rosa Luxemburg, internationaliste intransigeante, s’était rangée dans le camp que Lénine qualifie d’« historico-économique » en matière nationale, en opposition avec la conception « psychologico-culturelle » qu’il attribue aux austro-marxistes et, en particulier, à Otto Bauer, qui fut sans doute le meilleur théoricien marxiste de la question nationale. Or, si l’on compare l’analyse de la culture nationale par Bauer (dans la Question des nationalités et la social-démocratie) et par Luxemburg (en particulier dans la série d’articles intitulée « la Question nationale et l’autonomie » publiée en 1908-1909), on est frappé par des similitudes : mêmes agents de la culture nationale les « gens cultivés » chez Otto Bauer, l’intelligentsia que Rosa Luxemburg ne réduit pas, contrairement à d’autres, aux « travailleurs de la langue » ; même rôle des paysans « tenanciers » de la nation chez Bauer, conservatoire susceptible d’un examen anthropologique chez Luxemburg ; même nécessité pour le prolétariat de s’approprier la culture bourgeoise dont il est le producteur sans en avoir la jouissance pour Otto Bauer et que, « rejeton déshérité », il dévoie en kitsch selon Rosa Luxemburg.
Mais alors que Bauer, infirmant les pronostics d’Engels qui les vouait à la disparition ou à l’absorption par des nations plus fortes, analyse le « réveil des nations sans histoire », Luxemburg reste dans la lignée hégélienne, voire darwinienne, des pères fondateurs, refusant le statut de nation à ces peuples paysans : Lituaniens, Biélorusses, voire Ukrainiens. Là, elle ne fait pas de distinction entre nations dominantes et « peuples sans histoire » en condamnant le nationalisme, même si elle lui concède un rôle émancipateur dans des conjonctures historiques précises, bien délimitées (en particulier pour les colonies) au nom de la hiérarchie des priorités énoncée dès le début de son activité militante. Un de ses derniers textes, le « Fragment sur la guerre, la question nationale et la révolution », est particulièrement éloquent : « Des nations et des mini-nations s’annoncent de toutes parts et affirment leurs droits à constituer des Etats. Des cadavres putréfiés sortent de tombes centenaires, animés d’une nouvelle vigueur printanière et des peuples »sans histoire« qui n’ont jamais constitué d’entité étatique autonome ressentent le besoin violent de s’ériger en Etat [...], c’est aujourd’hui la nuit de Walpurgis sur le Brocken nationaliste. »