设立国际妇女节的想法是最先产生于20世纪初，当时西方各国正处在快速工业化和经济扩张阶段。惡劣的工作条件和低廉的工资使得各種抗议和罢工活动此起彼伏。1857年3月8日，美国纽约的制衣和纺织女工走上街头，抗议恶劣的工作条件和低薪。尽管后来当局出动警察攻击并驱散了抗议人群，但这次抗议活动促成了两年后的3月第一个工会组织的建立。
接下来的数年里，几乎每年的3月8日都有类似的抗议游行活动。其中最为引人注目的是在1908年，当时有将近15000名妇女走上纽约街头，要求缩短工作时间，增加工资和享有选举权等，并喊出了象征经济保障和生活质量的“面包加玫瑰”的口号。首次庆祝妇女节是在1909年2月28日，当时美国社会党发表了一项宣言，号召在每年2月的最后一个星期日举行纪念活动。这样每年的庆祝活动一直持续到1913年。
1910年，第二国际在丹麦哥本哈根召开首届国际妇女会议。会上德国妇女运动领袖、共產主義者克拉拉·蔡特金倡议设定一天为国际妇女节，得到与会代表的积极响应。次年3月19日，奥地利、丹麦、德国和瑞士等国总共超过一百万人举行各种活动庆祝国际妇女节。6天之后的3月25日，纽约发生了著名的三角工厂火灾，火灾吞噬了140多名制衣女工的生命，这其中大多数是意大利和犹太移民。
而恶劣的工作条件被认为是导致如此重大伤亡的主要原因。这场火灾后来还对美国的劳工立法产生了重要影响。从1912年至1915年，欧洲的妇女们也于3月19日作为国际妇女节走上街头，通过举行和平集会等形式反对战争。选择这个日子是为了纪念1871年3月18日巴黎公社妇女与工人反对梯也尔军队偷袭蒙马特高地国民自卫军大炮阵地而举行武装起义。
纪念国际妇女节的活动后来还证明是俄国革命的前奏。1917年3月8日（俄历2月23日），彼得堡女工举行罢工，要求得到“面包、和平与自由”；彼得堡全市工人举行政治总罢工，二月革命由此暴发。4天后，沙皇被迫退位，新成立的俄国临时政府宣布赋予妇女选举权。1919-1921年，国际共产主义妇女节都选在了3月5日。这是为了纪念1918年遇害的德国党的领袖罗莎·卢森堡的诞辰。
1921年9月9日至15日，第二届国际共产主义妇女代表会议在莫斯科召开，保加利亚代表建议为纪念俄国女工在二月革命中的英勇斗争，把3月8日定为国际劳动妇女节。从1922年开始，每年的三八节成为国际劳动妇女的节日。苏联时期，每年都会在这天纪念“英雄的妇女工作者”。
不过在民众中，节日的政治色彩逐渐减弱而演变成类似西方的母亲节和情人节之类向女性表达尊敬和爱意的机会。至今，这天仍是俄罗斯的法定假日，男性会赠送礼物给妇女以祝贺她们的节日。在西方国家，国际妇女节的纪念活动在上世纪二三十年代期间正常举行，但后来一度中断。直到1960年代，随着女权运动的兴起才又逐渐恢复。联合国从1975年国际妇女年开始，每年于3月8日举办活动庆祝国际妇女节。
