Recientemente compré un teclado para una iMac de 2013, enlazó correctamente por bluetooth y aparentemente funcionaba normal, sin embargo cuando quise subir volumen o bajar el brillo de la pantalla hacia cosas diferentes o de plano no funcionaban las teclas.
El teclado es un Magic Keyboard a2540, es de modelo reciente ya que los antiguos teclados con el que venia la computadora (y que era de pilas recargables) ya no los venden. Sin embargo investigando encontré que estos teclados sólo son complatibles con sistemas MacOS Big Sur en adelante, pero la iMac su última actualización de sistema fue MacOS Catalina.

Lo que sucede es que Catalina no detecta las nuevas teclas de función del Magic Keyboard, por eso desconoce que hacer cuando las presionamos, además como no podemos actualizar a un sistema operativo más reciente (si, porque Apple decidió dejarlas obsoletas) no funciona correcto.
Sin embargo hay una solución muy sencilla que consiste en descargar el programa Karabiner Elements (Descargalo aquí), selecciona la versión de tus Sistema Operativo e instalalo.

Cuando termine de instalar te pedirá agregar unos permisos en preferencias del sistema, hay que hacerlo y al final aparecerá una ventana para configurar tu teclado, sigue las instrucciones y listo, las teclas de función de tu teclado volverán a funcionar.
Ojalá te sea de utilidad.