FIFA มีตัวย่อมาจาก Fédération Internationale de Football Association ในภาษาฝรั่งเศสแปลเป็นไทยก็คือ “สหพันธ์ฟุตบอลระหว่างประเทศ” ช่วงเวลาต้นของศตวรรษที่ 20 ด้วยความนิยมของการแข่งขันระดับนานาชาติ ทำให้มีการตั้ง สหพันธ์ฟุตบอลระหว่างประเทศ ก่อตั้งขึ้นที่ ปารีส เมืองหลวงของฝรั่งเศสเมื่อวันที่ 21 พฤษภาคม ค.ศ. 1904 โดยมีเบลเยียม เดนมาร์ก ฝรั่งเศส เนเธอร์แลนด์ สเปน สวีเดน และสวิตเซอร์แลนด์
ประธานาธิบดีคนแรกของ FIFA คือ Robert Guérin และมีการเปลี่ยนประธานาธิบของ FIFA ในปี ค.ศ. 1906 เป็น Daniel Burley Woolfall
การแข่งขันครั้งแรกของ FIFA จัดขึ้นในปี 1908 ในลอนดอนและเป็นที่นิยมมากกว่าโอลิมปิกก่อนหน้าด้วย ฟีฟ่าขยายออกไปนอกยุโรปด้วย มีหลายประเทศเพิ่มเข้ามาได้แก่ แอฟริกาใต้ในปี พ.ศ. 2452 อาร์เจนตินาในปี พ.ศ. 2455 แคนาดาและชิลีในปี พ.ศ. 2456 และสหรัฐอเมริกาในปี พ.ศ. 2457 และมีการมอบรางวัล The Best FIFA Football Awards ครั้งแรกปี 2016
ช่วงสงครามโลกครั้งที่หนึ่ง นักกีฬาหลายคนถูกส่งตัวไปทำสงครามและการเดินทางเพื่อการแข่งขันระดับนานาชาติเป็นไปได้ยากอย่างมาก จนองค์กรเกือยจะอยู่ไม่ได้