Josef Gemein wurde am 13. April 1935 in Remagen geboren.
Seit 1961 ist er mit seiner Ehefrau Marlies verheiratet.
Der gelernte Maurer war zuletzt als Angestellter bei der Bundeswehr beschäftigt.

1964 trat er in den Kleintier-Zuchtvereins RN 99 Unkelbach ein. Von 1967 bis 1976 war er im Vereinsvorstand, zunächst als Tätomeister, dann als Geschäftsführer und 2. Vorsitzender.

Von 1976 bis 1992 und von 1996 bis 2004 war Josef Gemein Vereinsvorsitzender des RN 99 Unkelbach. Daneben bekleidet er das Amt des Zuchtbuchführers. Josef Gemein war Mitgründer der Kaninchenzuchtvereins Neroth und des Kaninchenzuchtvereins RN 62 Kesseling. Der RN 62 wurde am 18. September 1973 gegründet und zum 31. Dezember 1977 beim Landesverband abgemeldet.

Im Kreisverband Ahrweiler wurde Josef Gemein 1966 zum stellvertretenden KV-Vorsitzenden  und im Jahre 1969 zum  Kreisverbandsvorsitzenden gewählt. Nachdem er nach 20 Jahren, im Jahre 1989, sein Amt als Kreisverbandsvorsitzender abgab, wurde er, auf Antrag von Josef Groß, von der KV-Mitgliederversammlung zum Kreisverbands-Ehrenvorsitzenden ernannt.

Josef Gemein züchtet seit 1964 Blaue Wiener. Mit dieser Rasse hatte er bis ins Jahr 2002  48 Meistertitel errungen, u. a. Landes-, Vereins-, Kreis-, Swistbachtal-, Rhein-Ahr- und Rhein-Eifel-Meister. Auch Bundessiegertiere gehörten zu seiner Zucht. Auf Grund seiner Verdienste wurde er mit der LV-Ehrennadel in Silber, LV-Ehrennadel in Gold und am 17. Mai 1998 mit der LV-Treuenadel des Landesverbandes ausgezeichnet.