La máquina fue construida por la empresa informática como un sistema de inteligencia artificial capaz de contestar a preguntas formuladas en lenguaje convencional, y sus creadores pensaron que la información sobre sentidos adicionales de palabras mejoraría el funcionamiento del ordenador y le ayudaría a entender a los humanos.
Pero resultó que Watson usó sus nuevos conocimientos para decir impertinencias a la gente. Una vez respondió a una pregunta con la palabra ‘bullshit’, palabra en jerga para decir ‘estupidez’, que se considera ofensiva en inglés.
Un empleado de la compañía, Eric Brown, se inculpó por el error. Según él, el ordenador puede absorber mucha más información que un humano, pero tiene dificultades a la hora de discernir las sutiles diferencias entre los distintos sentidos de las palabras.
"Siendo seres humanos, ni siquiera nos damos cuenta de hasta qué punto nuestra comunicación es ambigua", dijo Brown, destacando que una máquina entiende lo que significa una palabra, pero no es capaz de saber si se puede usar o no. Ahora el diccionario de jerga fue eliminado de la memoria de Watson y le instalaron un filtro especial para que no vuelva a emplear palabras malsonantes.