Как и у хрящевых рыб, в ориентации и общении костных рыб особенно важную роль играют органы химического чувства (обоняние, вкус). Оба канала получения химической информации взаимодействуют, дополняя друг друга.
Обонятельные мешки костных рыб имеют внутри хорошо развитые складки обонятельного эпителия. Кожистый клапан разделяет ноздрю на два отверстия: у плывущей рыбы вода заходит в обонятельный мешок через переднее и выходит через заднее носовое отверстие х. У части рыб (плотва, угри и др.) ток воды через обонятельный мешок усиливается мерцанием ресничек, усеивающих его внутреннюю поверхность. Хотя обонятельные доли и весь передний мозг у большинства костных рыб относительно невелик (сильнее развиты у кистеперых, двоякодышащих и многоперообразных), пороги обонятельной чувствительности очень низки. Морские налимы (Gaidropsarus), сидевшие в бассейне емкостью 300 л, тотчас реагировали на прибавление 2,5 л воды из 12-литровой банки, в которой лишь 5 мин находилась одна рыбка атеринка. Еще ниже порог чувствительности у угря: запах воспринимается при наличии 15-50 тыс. молекул в 1 л (примерно соответствует чутью собаки). Биологическое значение обоняния костных рыб многообразно. Эксперименты показали, что рыбы хорошо распознают запахи не только чужих видов, но и различных особей своего вида. Это позволяет стайным рыбам не терять свою стаю, одиночным — находить партнера при размножении и т. п. Распознавание запаха чужого вида позволяет уклониться от нападения хищника или уловить приближение добычи. У многих рыб, особенно стайных, в особых бокаловидных клетках кожи содержится так называемое «вещество страха» или «опасности». При поранении кожи оно попадает в воду и воспринимается другими рыбами как сигнал опасности. Под действием такого химического сигнала стая уплотняется, что затрудняет нападение хищника, или, наоборот, рассеивается, и рыбы затаиваются. Велико значение обоняния и «химической памяти» у мигрирующих рыб. Так, тихоокеанские лососи выклевываются из икры в реках, проводят там несколько месяцев на стадии личинки и малька, а затем скатываются в море и кочуют. Через несколько лет, достигнув половой зрелости, рыбы мигрируют на нерест, проплывая сотни километров, и находят родные реки по запаху их вод 1. Меченьем личинок было установлено, что из 13 тыс. выловленных на нерестилищах рыб 34% вошли точно в те реки и ручьи, где они выклюнулись из икры, 65 — в соседние и лишь 1 % рыб был пойман на значительном удалении от мест меченья.
При поисках и распознавании пищи важное значение имеет вкус. Вкусовые почки (скопление чувствующих клеток с оканчивающимися на них веточками головных нервов) расположены в слизистой оболочке ротовой области (щука, колюшки), у многих рыб они рассеяны и по всей поверхности тела, концентрируясь на голове, усиках и иногда на удлиненных лучах плавников. Экспериментально показано, что рыбы различают сладкое, соленое, кислое, горькое. Нитевидные грудные плавники некоторых придонных рыб высокочувствительны к механическим раздражениям и экстрактам из различных морских беспозвоночных. Острота вкуса связана с экологическими особенностями вида: пищевой специализацией и типом местообитаний, степенью развития других рецепторов. Слепая пещерная рыбка Anoptichtys распознает раствор глюкозы при концентрации 0,005%.
Как и у хрящевых, у костных рыб хорошо развиты органы боковой линии (сейсмосенсорные органы). У большинства костных рыб канал боковой линии проходит в толще кожи вдоль средней линии тела, а на голове сильно ветвится, образуя сложную сеть. Многочисленные мелкие отверстия, пронизывающие чешуи, сообщают полость канала с внешней средой. Расположенные на стенках канала скопления снабженных ресничками чувствующих клеток иннервируются боковой ветвью блуждающего нерва (X пара). Органы боковой линии воспринимают даже слабые перемещения частиц воды и инфразвуковые колебания. С помощью этих органов рыбы ориентируются в потоках воды, воспринимают приближение или удаление добычи, хищника или партнера по стае, избегают столкновения с подводными предметами. Тонкость такой ориентации настолько велика, что ослепленные рыбы плавают с обычной скоростью, не натыкаясь на препятствия; они поддерживают строй в стае и успешно схватывают плавающую добычу.
К механорецепторам относятся и органы осязания. Они представлены расположенными в коже осязательными тельцами (скоплениями чувствующих клеток), рассеянными по всей поверхности тела и обычно более многочисленными на губах, усиках и лучах плавников. С их помощью рыбы воспринимают раздражения от прикосновения твердых тел. Температура воды воспринимается с помощью терморецепторов — рассеянных в поверхностных слоях кожи свободных нервных окончаний, видимо, различающихся по реакциям на разную температуру. Костные рыбы способны различать перепады температуры в 0,4 °С.
Схема кровеносной системы костистой рыбы
Рыбы способны улавливать изменения магнитного и электрического полей. При низком напряжении электрического поля они обычно ориентируют тело по силовым линиям, при увеличении напряжения двигаются к аноду; при возрастании напряжения наступает гальванонаркоз. Сильные электрические поля, возникающие у линий высокого напряжения, оказывают на поведение рыб угнетающее влияние. Электрические поля образуются вокруг тела любой рыбы, но они настолько слабы, что рецепторами не воспринимаются. Когда неэлектрические рыбы держатся группами (стаями), происходит суммация их индивидуальных электрических полей и образуется электрическое поле стаи, достаточное для восприятия отдельными членами. Оно играет важную роль в согласовании поведения отдельных членов стаи и их пространственной ориентации. Рецепторы электромагнитного чувства расположены преимущественно на голове.
Среди костистых рыб есть виды, имеющие специальные электрические органы, у отдельных видов — большой мощности. В большинстве случаев, как и у скатов, они представлены участками преобразованной поперечнополосатой мускулатуры. У рыб из отряда клюворылообразных, населяющих мутные водоемы тропической Африки, небольшие электрические органы расположены на хвостовом стебле; их разряды создают вокруг рыбы электрическое поле, изменение которого позволяет рыбам оценивать характер предметов на расстоянии в несколько метров и тем самым обеспечивает ориентировку и поиск добычи в мутной воде. Электрические поля слабо электрических рыб служат средством разграничения кормовых участков, предотвращая вторжение на занятую территорию.
У части населяющих прибрежные тропические воды звездочетов Uranoscopidae (окунеобразные) на голове есть небольшие электрические органы. У звездочетов p. Astroscopus электрический орган, образованный преобразованными мышцами глаз, способен генерировать разряды напряжением до 50 В. Звездочет лежит на дне, полузакопавшись в грунт; когда мелкая рыбешка подплывает близко, следует разряд, и оглушенная добыча падает прямо в открывающийся громадный рот хищника. У электрических угрей (подотр. Gymnotoidei отряда карпообразных), населяющих пресные водоемы Южной Америки, расположенные по бокам тела электрические органы генерируют до 20-50 импульсов в 1 с и создают электрическое поле, которое обеспечивает ориентировку рыбы (глаза у них очень малы). У электрического угря — Etectrophorus etectricus, достигающего 2 м длины, большие лентовидные электрические органы помимо низковольтных «ориентировочных» импульсов генерируют сильные разряды. У живущего в водоемах Западной Африки электрического сома — Malapterurus etectricus электрический орган в виде сплошного студенистого подкожного слоя окружает все туловище; он используется как орган ориентации, защиты и нападения.
Зрение рыб — важное средство ближней ориентации и связи рыб в стаях.
Глаза костных рыб имеют уплощенную роговицу и шаровидный хрусталик. Подвижных век нет. Относительные размеры глаз в пределах класса варьируют. У живущих в условиях плохой освещенности (мутная вода, большие глубины и т. п.) видов глаза либо относительно очень крупные (у некоторых рыб приобретают «телескопическую» форму), либо, наоборот, очень малы, рудиментарны, а у некоторых пещерных рыб скрыты под кожей; в последнем случае сильно развиты другие органы рецепции (боковая линия, обоняние, электрические органы и т. д.). В зависимости от образа жизни и пищевой специализации положение глаз изменчиво: у донных видов они смещены к верхней стороне головы, у камбал оба глаза лежат на одной стороне головы. У выползающего на берег илистого прыгуна крупные глаза как бы приподняты над головой и очень подвижны; у охотящейся на поверхности воды четырехглазки крупные глаза с двойным зрачком и овальным хрусталиком позволяют одновременно видеть и в воздухе, и в воде. У большинства видов глаза размещены по бокам головы. Зрение преимущественно монокулярное: при поле зрения каждого глаза в 160-170° по горизонтали и около 150° по вертикали поле бинокулярного зрения составляет всего 20-30°.
В хрящевой склере иногда образуются мелкие окостенения. Наружная часть сосудистой оболочки обособляется в серебристую оболочку. У многих хрящевых и костных рыб на внутренней поверхности сосудистой оболочки образуется зеркальце или тапетум — слой плоских клеток, наполненных блестящими кристалликами гуанина; он отражает прошедшие через сетчатку световые лучи, что усиливает возможности зрения при слабой освещенности. Тонкий вырост сосудистой оболочки — серповидный отросток пронизывает сетчатку и стекловидное тело, прикрепляясь к хрусталику. При сокращении серповидного отростка хрусталик несколько сдвигается в глубь глаза; так осуществляется его аккомодация (настройка на резкость). Тонкий пигментный слой у видов с хорошо развитым тапетумом выражен слабо.