Ο Ιάλυσος πήρε το όνομα του από την ομώνυμη κομώπολη της Ρόδου η οποία βρίσκεται στο βορειοδυτικό άκρο του νησιού. Ο σύλλογος ιδρύθηκε ανεπίσημα το 1925, εποχή κατά την οποία τα δωδεκάνησα ανήκαν στην Ιταλία, από ορισμένους νέους ανθρώπους της περιοχής, η οποίοι έπαιζαν μεταξύ τους ή με τα γύρω χωριά. Επίσημα ο σύλογος ιδρύθηκε  το 1948 όταν πλέον τα δωδεκάνησα ενσωματόθηκαν πάλι στην Ελλάδα. Η ομάδα του Ιάλυσου έχει παίξει σε όλες τις κατηγορίες του ελληνικού ποδοσφάιρου, εκτός της Α’ Εθνικής. Τις σεζόν 1998-99 και 1999-2000 βρέθηκε στην Β΄ Εθνική δεν μπόρεσε όμως να καθιερωθεί.