Arvo Ots on sündinud 26. juunil 1931. aastal Pärnus kooliõpetaja perekonnas. Kooliteed alustas ta Viljandis, kuid pärast sõda asuti elama Tallinna, kus ta 1950. aastal lõpetas eksternina Tallinna reaalkooli. Tallinna tehnikaülikooli mehaanikateaduskonna soojustehnika erialal lõpetas Arvo Ots 1955. aastal. Õppetöö kõrvalt töötas ta Tallinna tehnikaülikooli soojustehnika kateedri vanemlaborandina ning hiljem teaduste akadeemia energeetika instituudi nooremteadurina. 1958. aastal kaitses ta tehnikakandidaadi väitekirja teemal „Tolmpõlevkivi põlemine“ ning 1962. aastal sai ta dotsendi kutse. Tehnikadoktori väitekirja teemal „Soojusfüüsikalised ja keemilised protsessid põlevkivi tolmküttekolletes“ kaitses Arvo Ots Eesti teaduste akadeemia juures 1968. aastal. Professori kutse omistati talle 1969. aastal.
Eesti teaduste akadeemia liikmeks valiti Arvo Ots 1983. aastal energeetika alal.
Alates 1959. aastast on Arvo Otsa tegevus teadlase ja õpetlasena olnud seotud Tallinna tehnikaülikooliga. Aastatel 1959-1960 töötas ta soojusenergeetika kateedri tunnitasulise õppejõuna, seejärel dotsendi 1960-1966, vanemteaduri 1966-1968, soojusenergeetika kateedri juhataja 1969-1991, soojustehnika instituudi direktori 1991-2001, erakorralise professori 2001-2003 ning 2003−2015 vanemteadurina. Alates 2003 on ta Tallinna tehnikaülikooli emeriitprofessor.
Arvo Otsa teadustegevus on seotud soojuselektrijaamade aurukatelde uurimisega, mille tulemusteks on kütuse polüfraktsioonse püsivmahuliselt põleva põlemisteooria loomine, termilise piirkihi mõju selgitamine kiirgussoojusülekandele koldes, aurukatla küttepindade korrosioon-erosiivse kulumise ja metalli oleku kindlakstegemine äkkjahutuse tingimustes. Tema uurimistöö on olnud aluseks suure võimsusega põlevkivienergeetika seadmete loomisel Eesti elektrijaamades.
Poole sajandi jooksul on Arvo Ots õpetanud peamiselt soojusjõuseadmete valdkonda kuuluvaid aineid, olnud paljude doktori-, kandidaadi- ja magistritööde juhendaja. Ta on avaldanud üle 500 teaduspublikatsiooni, sh neli ulatuslikku teadusmonograafiat ja kõrgkooliõpikuid. Arvo Ots on osalenud EV energiaseaduse väljatöötamisel ja juhtinud kollektiive Eesti energeetika arenguprogrammide koostamisel. Ta on teaduste akadeemia energeetikanõukogu liige ning mitme ajakirja toimetuskolleegiumi liige. Kahel korral on Arvo Otsa tööd tunnustatud Nõukogude Eesti teaduspreemiatega (1970, 1980). 2003 sai ta Eesti Vabariigi Valgetähe IV klassi teenetemärgi ning 2006 Aasta Inseneri tiitli. 2010. aastal pälvis Arvo Ots teaduspreemia pikaajalise tulemusliku teadus- ja arendustöö eest.