Persebaya didirikan oleh Paijo dan M. Pamoedji pada 18 Juni 1927. Pada awal berdirinya, Persebaya bernama Soerabhaiasche Indonesische Voetbal Bond (SIVB). Pada saat itu di Surabaya juga ada klub bernama Sorabaiasche Voebal Bond (SVB), bonden (klub) ini berdiri pada tahun 1910 dan pemainnya adalah orang-orang Belanda yang ada di Surabaya.

Pada tanggal 19 April 1930, SIVB bersama dengan VIJ Jakarta, BIVB Bandung (sekarang Persib Bandung), MIVB (sekarang PPSM Magelang), MVB (PSM Madiun), VVB (Persis Solo), PSM (PSIM Yogyakarta) turut membidani kelahiran Persatuan Sepak bola Seluruh Indonesia (PSSI) dalam pertemuan yang diadakan di Societeit Hadiprojo Yogyakarta. SIVB dalam pertemuan tersebut diwakili oleh M. Pamoedji. Setahun kemudian kompetisi tahunan antar kota/perserikatan diselenggarakan. SIVB berhasil masuk final kompetisi perserikatan pada tahun 1938 meski kalah dari VIJ Jakarta.

Ketika Belanda kalah dari Jepang pada 1942, prestasi SIVB yang hampir semua pemainnya adalah pemain pribumi dan sebagian kecil keturunan Tionghoa melejit dan kembali mencapai final sebelum dikalahkan oleh Persis Solo. Akhirnya pada tahun 1943 SIVB berganti nama menjadi Persibaja (Persatuan Sepak Bola Indonesia Soerabaja). Pada era ini Persibaja diketuai oleh Dr. Soewandi. Kala itu, Persibaja berhasil meraih gelar juara pada tahun 1950, 1951 dan 1952.

Tahun 1960, nama Persibaja dirubah menjadi Persebaya (Persatuan Sepak Bola Surabaya). Pada era perserikatan ini, prestasi Persebaya juga istimewa. Persebaya adalah salah satu raksasa perserikatan selain PSMS Medan, PSM Makassar, Persib Bandung maupun Persija Jakarta. Dua kali Persebaya menjadi kampiun pada tahun 1978 dan 1988, dan tujuh kali menduduki peringkat kedua pada tahun 1965, 1967, 1971, 1973, 1977, 1987, dan 1990.

Prestasi gemilang terus terjaga ketika PSSI menyatukan klub Perserikatan dan Galatama dalam kompetisi bertajuk Liga Indonesia sejak 1994. Persebaya merebut gelar juara Liga Indonesia pada tahun 1997. Bahkan Persebaya berhasil mencetak sejarah sebagai tim pertama yang dua kali menjadi juara Liga Indonesia ketika pada tahun 2005 Green Force kembali merebut gelar juara. Kendati berpredikat sebagai tim klasik sarat gelar juara, Green Force juga sempat merasakan pahitnya terdegradasi pada tahun 2002 lalu. Pil pahit yang langsung ditebus dengan gelar gelar juara Divisi I dan Divisi Utama pada dua musim selanjutnya.