IBM Watson nemá pevný počet CPU. Nie je to jeden stroj, ale zbierka softvéru a služieb bežiacich na rozsiahlej škálovateľnej infraštruktúre. Počet použitých CPU závisí od konkrétnej úlohy, pracovného zaťaženia a zdrojov pridelených v ktoromkoľvek danom čase. Mohlo by sa pohybovať od relatívne malého počtu pre jednoduchšie úlohy až po potenciálne tisíce alebo ešte viac pre zložité. Neexistuje žiadna jediná odpoveď na to, koľko CPU je „v“ Watson.